Я бы начинал с Матлаба. Там достаточно развитая 3Д графика плюс вылизанные алгоритмы обработки данных. По ссылке нет никакой конкретики, а посему сложно понять, нужно ли Вам что-то специфическое. С помощью Матлаба успешно проводят обработку и визуализацию данных нейтронной томографии, например. А там массивы данных аховые.
Без конкретики все советы будут достаточно абстрактными. С другой стороны, если основной результат - что-то выучить, а не посчитать/визуализировать, то учите "плюсы".

Спасибо!

Спасибо за ваш совет. Вчера начала разбирать матлаб.