Предел арифметики

[Akopalipsis]

Какой придел арифметических операций во as3?
Почему число 0.000000000000001137 флеш переводит в 1.1379786002407855e-15 и как этого избежать? Более подробно -
0.030000000000001137 - 0.03 === 1.1379786002407855e-15 вместо 0.000000000000001137

[alexcon314]

"придел"? "предел" же.
"во as3"? "в as3" же.

[caseyryan]

Почему число 0.000000000000001137 флеш переводит в 1.1379786002407855e-15 и как этого избежать? Более подробно -

Никак. А что, собственно, не устраивает? Это тот же результат, только в виде экспоненты
Я так понимаю, интересует теоретическое обоснование.
http://help.adobe.com/ru_RU/FlashPla.../3/Number.html

Сомневаюсь, что в реальной жизни такая точность может где-то понадобиться. Как правило программы, где нужна подобная точность, на as3, с его урезанной системой чисел, не пишутся

[Akopalipsis]

caseyryan Спасибо! У меня тогда к Вам вопрос, как к знатоку js - в нём нет урезанных чисел?

"придел"? "предел" же.

[Dukobpa3]

Number

A data type representing an IEEE-754 double-precision floating-point number.

IEEE-754

[alatar]

Akopalipsis, вы привели два одинаковых числа, совпадающих (если судить визуально) до восемнадцатого знака после запятой, в чем вопрос? Как вывесли его в трейс в другом виде? Посмотрите метод toFixed по приведенной caseyryan ссылке.

У меня тогда к Вам вопрос, как к знатоку js - в нём нет урезанных чисел?

Это слабо зависит от языка (если в нем нет специальных типов для работы с десятичной арифметикой), больше зависит от архитектуры процессора.

[caseyryan]

caseyryan Спасибо! У меня тогда к Вам вопрос, как к знатоку js - в нём нет урезанных чисел?

Знатоку js? Oo я никогда не говорил, что я знаток js. Джаву изучал достаточно углубленно, и то особым знатоком бы себя не назвал, но не js.

[Akopalipsis]

до восемнадцатого знака после запятой, в чем вопрос?

Теперь я могу так же как и Вы говорить, а вчера казалось, что это нечто грандиозное.

Джаву изучал достаточно углубленно, и то особым знатоком бы себя не назвал, но не js.

Тогда извиняюсь, перепутал