Форум Flasher.ru

Форум Flasher.ru (http://www.flasher.ru/forum/index.php)
-   ActionScript 3.0 (http://www.flasher.ru/forum/forumdisplay.php?f=83)
-   -   Разница между двумя Number (http://www.flasher.ru/forum/showthread.php?t=211845)

Xaider 20.11.2015 00:01

Разница между двумя Number
 
Вопрос к знатокам:
Нужно найти разницу между числом 1.077461 и 1.077462
Даже не прибегая к калькулятору получаем -0,000001
Правильно?
Но почему flash считает по-другому????

Код AS3:

trace(1.077461 - 1.077462);

Удивились? я тоже. Кто может прокомментировать и как это лечится?

MikroAcse 20.11.2015 00:03

Может быть это связано с точностью исчисления чисел с плавающей точкой? :)
Почитай, как работают эти самые числа.

Xaider 20.11.2015 00:06

MikroAcse
Если вы имеете ввиду использовать toFixed, то это не помогает

Добавлено через 3 минуты
Хотя нет, подходит.
И toPrecision подойдёт.
Вопрос снят,всем спасибо )

caseyryan 20.11.2015 06:29

так не только во флеше происходит

Dmitriy154 20.11.2015 10:45

Код AS3:

trace(1.077461 - 1.077462); //выводит -9.999999999177334e-7
trace ((-9.999999999177334e-7) + 1.077462); //выводит 1.077461



Часовой пояс GMT +4, время: 05:45.

Copyright © 1999-2008 Flasher.ru. All rights reserved.
Работает на vBulletin®. Copyright ©2000 - 2024, Jelsoft Enterprises Ltd. Перевод: zCarot
Администрация сайта не несёт ответственности за любую предоставленную посетителями информацию. Подробнее см. Правила.