Форум Flasher.ru

Форум Flasher.ru (http://www.flasher.ru/forum/index.php)
-   ActionScript 3.0 (http://www.flasher.ru/forum/forumdisplay.php?f=83)
-   -   Округление дробей (http://www.flasher.ru/forum/showthread.php?t=133128)

TanaTiX 28.11.2009 15:09

Добавить - в смысле сложить или добавить, т.е. присоеденить?
Может сначала умножить как советовал fessor, и если 1й вариант - работать с такими значениями, а если 2й - так работать как со строкой?

Psycho Tiger 28.11.2009 22:10

Цитата:

Сообщение от fessor (Сообщение 868842)
самое простое что смог придумать:
Код AS1/AS2:

x=Math.floor(x*100000000000000)/100000000000000


Одно из самых правильных, если не единственное.

silin 29.11.2009 00:27

Код AS3:

var num:Number = 8.333333333333335e-7;
trace( "num : " + num.toPrecision(16) );


azatkh 04.06.2010 05:52

не подскажите, почему программа зависает (или очень долго обрабатывает) следующие команды:
Код AS3:

var t0:Number=delta1/m1; // Здесь получается примерно 0.00152379235
// t0=Math.round(t0*1000);  // выдает 2, работает быстро
// но если я задам
t0=Math.round(t0*1000/1000); // программа умирает.

Как то не может он с дробными числами поработать. :(
может быть есть еще какой нибудь метод округления до тысячных?

КорДум 04.06.2010 08:36

Код AS3:

t0=Math.round(t0*1000/1000);

Очень странно, ибо ваша запись - эквивалент t0=Math.round(t0). Тысячи-то сокращаются.
Код AS3:

t0=Math.round(t0*1000)/1000;


gloomyBrain 04.06.2010 13:29

Цитата:

ваша запись - эквивалент t0=Math.round(t0)
Вы уверены?
Код AS3:

var t0:Number = 123.321;
trace(Math.round(t0)); // 123
trace(Math.round(t0 * 1000) / 1000); // 123.321


iNils 04.06.2010 13:36

Цитата:

Вы уверены?
Код:

Math.round(t0 * 1000) / 1000 != Math.round(t0*1000/1000)

gloomyBrain 04.06.2010 13:39

Oo-ops... I did it again =)

azatkh 04.06.2010 20:42

я тоже также опечатался.
программа виснет при
t0=Math.round((t0*1000)/1000);

тоже самое при
t0=Math.round(t0*0.0001);

КорДум 04.06.2010 20:47

Посмотрите внимательно на внутренние скобки и внешние.


Часовой пояс GMT +4, время: 16:10.

Copyright © 1999-2008 Flasher.ru. All rights reserved.
Работает на vBulletin®. Copyright ©2000 - 2026, Jelsoft Enterprises Ltd. Перевод: zCarot
Администрация сайта не несёт ответственности за любую предоставленную посетителями информацию. Подробнее см. Правила.