Показать сообщение отдельно
Старый 02.09.2009, 16:26
xjack вне форума Посмотреть профиль Отправить личное сообщение для xjack Найти все сообщения от xjack
  № 1  
Ответить с цитированием
xjack

Регистрация: Apr 2009
Сообщений: 104
По умолчанию Баги флеша при работе с дробными числами

Приветствую всех. Столкнулся с проблемой, попортившей немало крови а именно:
Флеш некорректно выполняет арифметические операции над некоторыми отдельно взятыми числами. Например - при вычитании из 2.3 единицу (2.3-1) получается бред вида 1.29999999.... При этом если вместо 2.3 взять 3.3, 5.3 то все ок, зато если из 5.3 вычитаем 4 (чтобы получить опять таки проблемное 1.3) получаем опять таки 1.2999999.
Похожие проблемы были с делением, например при делении 1.9/0.1 получалось не 19 а 18.9999999...... В итоге это все приводило к тому что при последующих манипуляциях с числами получались реально неверные результаты, и я никак н мог понять в чем дело.
Да, проверил это на других SDK - все тоже самое. Кто нибудь сталкивался с подобным?