Deutsch
Germany.ruФорумы → Архив Досок→ Linux & Co

Mod(x,y) modulo ne mogu pos4itat:(

27.10.04 13:49
Re: Mod(x,y) modulo ne mogu pos4itat:(
 
katran76 посетитель
в ответ Russman 27.10.04 13:00
Как раз это и обьясняет.
Любое число хранится в формате с ОГРАНИЧЕННЫМ числом десятичных
знаков после запятой.
Т.е. к примеру если это число равно 3, то
1.0000 не отличим от 1.0001 (вернее 1.000 может быть любым от 0.999 до 1.001).
Однако для числа 1.0000*10^20 ошибка представления составляет уже не
0.001 (три знака после запятой) а
0.001*10^20=10^17
(т.е. 1.000*10^20 определяет число от 0.999*10^20 до 1.001*10^20).
Так понятней?
Для числа x=2.34*10^300 при точности хранения 20 десятичных знаков
погрешность представления 1*10^280.
 

Перейти на