Вход на сайт
float в java
1733 просмотров
Перейти к просмотру всей ветки
в ответ katran76 29.05.08 11:38
Если эта точность к примеру три знака, то грубо говоря ВСЕ ЧИСЛА от 1.234 до 1.236 представлены в памяти компа ОДИНАКОВО как 1.235
-----
Вообще-то ТРИ знака это 1.23
На самом деле всё немного сложнее
-----
Да, float-числа хранятся в нормализованном виде - т.е. мантиса 0.123 и порядок 1 (10^1)
Кроме этого, во многих системах учитывается, что старший разряд нормальзованной мантисы всегда единца (двоичная) и потому он опускается.
Кроме этого - описанное представление - не единственно возможное. В Коболе и ПЛ/1 используются типы DECIMAL(?) весьма похожие на float, но имеющие принципиально иное представление - упакованных или распакованный двоично-десятичный код. Мало того, так еще и имплементация этих децималов в разных системах отличается...
-----
Вообще-то ТРИ знака это 1.23
На самом деле всё немного сложнее
-----
Да, float-числа хранятся в нормализованном виде - т.е. мантиса 0.123 и порядок 1 (10^1)
Кроме этого, во многих системах учитывается, что старший разряд нормальзованной мантисы всегда единца (двоичная) и потому он опускается.
Кроме этого - описанное представление - не единственно возможное. В Коболе и ПЛ/1 используются типы DECIMAL(?) весьма похожие на float, но имеющие принципиально иное представление - упакованных или распакованный двоично-десятичный код. Мало того, так еще и имплементация этих децималов в разных системах отличается...