Deutsch
Germany.ruФорумы → Архив Досок→ Программирование

Округления с операторами арифметических действий и присваивания

02.01.24 22:16
Re: Округления с операторами арифметических действий и присваивания
 
alex445 коренной житель
в ответ AlexNek 02.01.24 20:26, Последний раз изменено 02.01.24 22:28 (alex445)

А смысл операторы перегружать? Там же ошибка возникает не просто в вычислениях, а и в хранении. Данные хранятся в битах, а многие десятичные числа с плавающией заяптой в битах точно не представимы - приходится округлять. Сколько ни приводи типы, ни перегружай операторы - этот "дребезг" последнего разряда by design.


Вобщем, я пишу как и сказал в начале x = Math.Round(x + 1.22000001, 2); Просто хотел, чтобы было коротко и красиво.


Данных примерно до несколько десятков мегабайт может дойти. Вроде немного, даже если удвоить. И даже для мобильных телефонов должно хватить. Но меня смущает, что сериализатор все эти типы представляет как float.


Тут вообще советуют в строках хранить при сериализации

https://stackoverflow.com/questions/35709595/why-would-you...

 

Перейти на