Форум Flasher.ru

Форум Flasher.ru (http://www.flasher.ru/forum/index.php)
-   ActionScript 3.0 (http://www.flasher.ru/forum/forumdisplay.php?f=83)
-   -   Округление дробей (http://www.flasher.ru/forum/showthread.php?t=133128)

PRosTo_LEva 27.11.2009 18:23

Округление дробей
 
Есть задача округлить десятичную дробь до 22 знака после запятой. Есть ли варианты сея действия?:o

Zik. 27.11.2009 18:34

ну наверно так
Код AS1/AS2:

var a:Number = //число
a *= 10000000000000000000000;
Math.round(a);
a /= 10000000000000000000000;


PRosTo_LEva 27.11.2009 18:47

У меня получается в результате вычислений вот такое вот число :( как его округлить?

Код AS3:

8.333333333333335e-7


xpymbl4 27.11.2009 18:52

У меня кстати тоже не получилось вывести в trace или в текстовое поле более 16 знаков числа Number.

Zik. 27.11.2009 18:55

Ну тогда не судьба)))

VVall 27.11.2009 19:17

22 знака - слишком высокая точность.

Цитата:

Double precision floating point provides a relative precision of about 16 decimal digits and magnitude range from about 10-308 to about 10+308.

PRosTo_LEva 27.11.2009 20:00

Ладно, с 16 знаками еще можно смириться. Но вот как быть именно с той дробью которая заканчивается буквенным значением?

DarkLight 27.11.2009 20:06

если нужно вывести куда-то в визуально нормальном виде то toFixed в помощь

PRosTo_LEva 27.11.2009 20:12

Нет, нужно добавить это значение к текущему времени и вывести в нормальном стандарте.

при прибавлении подобной дроби возникают нереальные даты

fessor 28.11.2009 14:48

самое простое что смог придумать:
Код AS1/AS2:

x=Math.floor(x*100000000000000)/100000000000000


TanaTiX 28.11.2009 15:09

Добавить - в смысле сложить или добавить, т.е. присоеденить?
Может сначала умножить как советовал fessor, и если 1й вариант - работать с такими значениями, а если 2й - так работать как со строкой?

Psycho Tiger 28.11.2009 22:10

Цитата:

Сообщение от fessor (Сообщение 868842)
самое простое что смог придумать:
Код AS1/AS2:

x=Math.floor(x*100000000000000)/100000000000000


Одно из самых правильных, если не единственное.

silin 29.11.2009 00:27

Код AS3:

var num:Number = 8.333333333333335e-7;
trace( "num : " + num.toPrecision(16) );


azatkh 04.06.2010 05:52

не подскажите, почему программа зависает (или очень долго обрабатывает) следующие команды:
Код AS3:

var t0:Number=delta1/m1; // Здесь получается примерно 0.00152379235
// t0=Math.round(t0*1000);  // выдает 2, работает быстро
// но если я задам
t0=Math.round(t0*1000/1000); // программа умирает.

Как то не может он с дробными числами поработать. :(
может быть есть еще какой нибудь метод округления до тысячных?

КорДум 04.06.2010 08:36

Код AS3:

t0=Math.round(t0*1000/1000);

Очень странно, ибо ваша запись - эквивалент t0=Math.round(t0). Тысячи-то сокращаются.
Код AS3:

t0=Math.round(t0*1000)/1000;


gloomyBrain 04.06.2010 13:29

Цитата:

ваша запись - эквивалент t0=Math.round(t0)
Вы уверены?
Код AS3:

var t0:Number = 123.321;
trace(Math.round(t0)); // 123
trace(Math.round(t0 * 1000) / 1000); // 123.321


iNils 04.06.2010 13:36

Цитата:

Вы уверены?
Код:

Math.round(t0 * 1000) / 1000 != Math.round(t0*1000/1000)

gloomyBrain 04.06.2010 13:39

Oo-ops... I did it again =)

azatkh 04.06.2010 20:42

я тоже также опечатался.
программа виснет при
t0=Math.round((t0*1000)/1000);

тоже самое при
t0=Math.round(t0*0.0001);

КорДум 04.06.2010 20:47

Посмотрите внимательно на внутренние скобки и внешние.

azatkh 04.06.2010 20:51

ооо... точно! вот я чудо в перьях :)
спасибо!

КорДум 04.06.2010 21:40

Код AS3:

var a:Number = 0.123456789;
trace(Math.round((a * 1000) / 1000));

Даже скобки комбинировал - ну не виснет и все. У вас полтергейст?


Часовой пояс GMT +4, время: 15:02.

Copyright © 1999-2008 Flasher.ru. All rights reserved.
Работает на vBulletin®. Copyright ©2000 - 2026, Jelsoft Enterprises Ltd. Перевод: zCarot
Администрация сайта не несёт ответственности за любую предоставленную посетителями информацию. Подробнее см. Правила.