Предел арифметики

Akopalipsis · 04.11.2013, 01:06

Какой придел арифметических операций во as3?
Почему число 0.000000000000001137 флеш переводит в 1.1379786002407855e-15 и как этого избежать? Более подробно -
0.030000000000001137 - 0.03 === 1.1379786002407855e-15 вместо 0.000000000000001137

alexcon314 · 04.11.2013, 09:23

"придел"? "предел" же.
"во as3"? "в as3" же.

caseyryan · 04.11.2013, 10:39

Цитата:

Почему число 0.000000000000001137 флеш переводит в 1.1379786002407855e-15 и как этого избежать? Более подробно -

Никак. А что, собственно, не устраивает? Это тот же результат, только в виде экспоненты
Я так понимаю, интересует теоретическое обоснование.
http://help.adobe.com/ru_RU/FlashPla.../3/Number.html

Сомневаюсь, что в реальной жизни такая точность может где-то понадобиться. Как правило программы, где нужна подобная точность, на as3, с его урезанной системой чисел, не пишутся

Akopalipsis · 04.11.2013, 14:53

caseyryan Спасибо! У меня тогда к Вам вопрос, как к знатоку js - в нём нет урезанных чисел?

Цитата:

"придел"? "предел" же.

Dukobpa3 · 04.11.2013, 15:07

Number

Цитата:

A data type representing an IEEE-754 double-precision floating-point number.

IEEE-754

alatar · 04.11.2013, 19:58

Akopalipsis, вы привели два одинаковых числа, совпадающих (если судить визуально) до восемнадцатого знака после запятой, в чем вопрос? Как вывесли его в трейс в другом виде? Посмотрите метод toFixed по приведенной caseyryan ссылке.

Цитата:

У меня тогда к Вам вопрос, как к знатоку js - в нём нет урезанных чисел?

Это слабо зависит от языка (если в нем нет специальных типов для работы с десятичной арифметикой), больше зависит от архитектуры процессора.

caseyryan · 04.11.2013, 20:33

Цитата:

caseyryan Спасибо! У меня тогда к Вам вопрос, как к знатоку js - в нём нет урезанных чисел?

Знатоку js? Oo я никогда не говорил, что я знаток js. Джаву изучал достаточно углубленно, и то особым знатоком бы себя не назвал, но не js.

Akopalipsis · 04.11.2013, 21:40

Цитата:

до восемнадцатого знака после запятой, в чем вопрос?

Теперь я могу так же как и Вы говорить, а вчера казалось, что это нечто грандиозное.

Цитата:

Джаву изучал достаточно углубленно, и то особым знатоком бы себя не назвал, но не js.

Тогда извиняюсь, перепутал