PDA

Просмотр полной версии : Разница между двумя Number


Xaider
20.11.2015, 00:01
Вопрос к знатокам:
Нужно найти разницу между числом 1.077461 и 1.077462
Даже не прибегая к калькулятору получаем -0,000001
Правильно?
Но почему flash считает по-другому????

trace(1.077461 - 1.077462);

Удивились? я тоже. Кто может прокомментировать и как это лечится?

MikroAcse
20.11.2015, 00:03
Может быть это связано с точностью исчисления чисел с плавающей точкой? :)
Почитай, как работают эти самые числа.

Xaider
20.11.2015, 00:06
MikroAcse
Если вы имеете ввиду использовать toFixed, то это не помогает

Добавлено через 3 минуты
Хотя нет, подходит.
И toPrecision подойдёт.
Вопрос снят,всем спасибо )

caseyryan
20.11.2015, 06:29
так не только во флеше происходит

Dmitriy154
20.11.2015, 10:45
trace(1.077461 - 1.077462); //выводит -9.999999999177334e-7
trace ((-9.999999999177334e-7) + 1.077462); //выводит 1.077461