Login
float в java
1733 просмотров
Перейти к просмотру всей ветки
in Antwort kashej 17.05.08 16:13
при флоате важно как диапазон представления чисел, так и количество значащих разрядов.
Если диапазон
float 32 bit java.lang.Float +/-1,4E-45 ... +/-3,4E+38
double 64 bit java.lang.Double +/-4,9E-324 ... +/-1,7E+308
http://de.wikipedia.org/wiki/IEEE_754#Zahlenformate_und_andere_Festlegungen_des_IEEE_754-Standards
In float, 24 bits are allocated for a. Thus the largest integer that can be exactly stored is 2^0 + 2^1 + ... + 2^23 = (2^24)−1 = 16,777,215
То бишь 8 значащих цифр после запятой. Так вот толерансе не должно быть тогда меньше чем 0.0000 0001
Если диапазон
float 32 bit java.lang.Float +/-1,4E-45 ... +/-3,4E+38
double 64 bit java.lang.Double +/-4,9E-324 ... +/-1,7E+308
http://de.wikipedia.org/wiki/IEEE_754#Zahlenformate_und_andere_Festlegungen_des_IEEE_754-Standards
In float, 24 bits are allocated for a. Thus the largest integer that can be exactly stored is 2^0 + 2^1 + ... + 2^23 = (2^24)−1 = 16,777,215
То бишь 8 значащих цифр после запятой. Так вот толерансе не должно быть тогда меньше чем 0.0000 0001