Форум Flasher.ru - Number = 0.10001 а не 0.1 Как решить?

Форум Flasher.ru (http://www.flasher.ru/forum/index.php)

- ActionScript 3.0 (http://www.flasher.ru/forum/forumdisplay.php?f=83)

- - Number = 0.10001 а не 0.1 Как решить? (http://www.flasher.ru/forum/showthread.php?t=166123)

stweet

30.08.2011 13:01

Number = 0.10001 а не 0.1 Как решить?

Приведу пример из кода:

Код AS3:

var n:Number = arrTween[0][1]; // arrTween[0][1] = 0.2

var m:Number = 0.1;

 

var c:Number = n + m;

 

trace(n, m, c); // 0.2  0.1  0.300000000000000044;

я знаком с тем что это косяк Number - а, прошу помощи как этого можно избежать, менее затратно?

DJDrugsounD

30.08.2011 13:04

Код AS3:

trace(n, m, c.toFixed(1)); // 0.2 0.1 0.300000000000000044;

Добавлено через 1 минуту
хотя помоему он округлит до 0.4 не проверял просто

stweet

30.08.2011 13:05

спасибо.

Часовой пояс GMT +4, время: 14:52.

Copyright © 1999-2008 Flasher.ru. All rights reserved.
Работает на vBulletin®. Copyright ©2000 - 2026, Jelsoft Enterprises Ltd. Перевод: zCarot
Администрация сайта не несёт ответственности за любую предоставленную посетителями информацию. Подробнее см. Правила.