Login
float в java
1733 просмотров
Перейти к просмотру всей ветки
in Antwort Murr 29.05.08 12:06
вообще то точность измеряется числом значащих знаков после запятой в нормализованном представлении.
Так что 1.234=1.234*10^1 это всё-таки ТРИ
По стандарту (если я его правильно помню) числа (как мантисса так и порядок) хранится в двоичном виде, т.е. не 0.125 а что то-типа
десятичное 0.125 = 2^(-3) = двоичное 0.001= двоичное нормализованное 1.0*2(-3)
Я поэтому и написал что на самом деле всё "немного сложнее"
Однако к вопросу автора это имеет отдалённое отношение...
Главное для него - точность нормализованного представления
Так что 1.234=1.234*10^1 это всё-таки ТРИ
В ответ на:
Да, float-числа хранятся в нормализованном виде - т.е. мантиса 0.123 и порядок 1 (10^1)
Да, float-числа хранятся в нормализованном виде - т.е. мантиса 0.123 и порядок 1 (10^1)
По стандарту (если я его правильно помню) числа (как мантисса так и порядок) хранится в двоичном виде, т.е. не 0.125 а что то-типа
десятичное 0.125 = 2^(-3) = двоичное 0.001= двоичное нормализованное 1.0*2(-3)
Я поэтому и написал что на самом деле всё "немного сложнее"
Однако к вопросу автора это имеет отдалённое отношение...
Главное для него - точность нормализованного представления