10 миллиардов ... с точностью сравнимой с double precision.

-----

И?

Замена не СИН/КОС/ТАН таблицами, а всего выражения где они используются, на таблицу... особенно, если входные/выходные параметры можно сильно огрублять без заментого ущерба, даст еще пару порядков по скорости.

Вот пару недель как заменил выборочно-расчетную часть у себя по этой методике - время упало с где-то 40 секунд по 0.6 секунды... нужно еще по ходу поменять константы для исключения деления - все будет бегать в "реальном времени"... Хотя... у меня ограниченное количество входных данных - могу и этот расчет загнать в таблицу - будет где-то 0.2 сеk...

То есть если понимать как, то и на эмбеддед можно терафлопы получать.

-----

Из одной старой задачки...

Надо было обучить робота балансированию предметом.

Начальный вариант - считали форму предмета, определяли центр тяжести, считали его траекторию при воздействиях в определенных сигналах с датчиков, принимали решения по тому какие двигатели, на сколько и при какой мощности надо включать.

Потребность в вычислительной мощности - почти маинфрайм...

Конечный вариант - входные сигналы с датчиков огрубили до 3-х значений - игнорируемый, желательна коррекция, необходима коррекция, аналогично загрубили результат - мощность - ноль, половина, полная...

Потребность в вычислительной мощности - микроконтроллер...

Что интересно:

- увеличение количества градаций мало влияло на качество отработки...

- во втором случае предмет ронялся много реже...