Вход на сайт
О новых компах с AI чипами (NPU) - кто то уже пользуется?
474 просмотров
Перейти к просмотру всей ветки
в ответ papusik 26.07.24 13:56
Доверять ли этим обещаниям? - тоже не знаю, нет опыта.
Чтобы приблизиться хотя бы к уровню GPT 3,5 для подобной модели домашнего пользования нужны будут десятки террабайт на жестком диске (скажем так минимум 50 TB), сотни гигабайт оперативной памяти (например 512 GB), серверный процессор с 64 ядрами, и штуки 4 NVIDIA A 100 
Часы, ножи и прочие ништяки. https://foren.germany.ru/smoke/f/40611813.html