Форум Flasher.ru
Ближайшие курсы в Школе RealTime
Список интенсивных курсов: [см.]  
  
Специальные предложения: [см.]  
  
 
Блоги Правила Справка Пользователи Календарь Сообщения за день
 

Вернуться   Форум Flasher.ru > Flash > ActionScript 3.0

Версия для печати  Отправить по электронной почте    « Предыдущая тема | Следующая тема »  
Опции темы Опции просмотра
 
Создать новую тему Ответ
Старый 27.11.2009, 18:23
PRosTo_LEva вне форума Посмотреть профиль Отправить личное сообщение для PRosTo_LEva Найти все сообщения от PRosTo_LEva
  № 1  
Ответить с цитированием
PRosTo_LEva

Регистрация: Oct 2009
Сообщений: 25
По умолчанию Округление дробей

Есть задача округлить десятичную дробь до 22 знака после запятой. Есть ли варианты сея действия?

Старый 27.11.2009, 18:34
Zik. вне форума Посмотреть профиль Отправить личное сообщение для Zik. Найти все сообщения от Zik.
  № 2  
Ответить с цитированием
Zik.
 
Аватар для Zik.

Регистрация: Nov 2007
Сообщений: 1,724
ну наверно так
Код AS1/AS2:
var a:Number = //число
a *= 10000000000000000000000;
Math.round(a);
a /= 10000000000000000000000;

Старый 27.11.2009, 18:47
PRosTo_LEva вне форума Посмотреть профиль Отправить личное сообщение для PRosTo_LEva Найти все сообщения от PRosTo_LEva
  № 3  
Ответить с цитированием
PRosTo_LEva

Регистрация: Oct 2009
Сообщений: 25
У меня получается в результате вычислений вот такое вот число как его округлить?

Код AS3:
8.333333333333335e-7

Старый 27.11.2009, 18:52
xpymbl4 вне форума Посмотреть профиль Отправить личное сообщение для xpymbl4 Найти все сообщения от xpymbl4
  № 4  
Ответить с цитированием
xpymbl4
 
Аватар для xpymbl4

Регистрация: Jul 2008
Адрес: Smolensk
Сообщений: 124
Отправить сообщение для xpymbl4 с помощью ICQ Отправить сообщение для xpymbl4 с помощью Skype™
У меня кстати тоже не получилось вывести в trace или в текстовое поле более 16 знаков числа Number.
__________________
круглое тащим, квадратное катим

Старый 27.11.2009, 18:55
Zik. вне форума Посмотреть профиль Отправить личное сообщение для Zik. Найти все сообщения от Zik.
  № 5  
Ответить с цитированием
Zik.
 
Аватар для Zik.

Регистрация: Nov 2007
Сообщений: 1,724
Ну тогда не судьба)))

Старый 27.11.2009, 19:17
VVall вне форума Посмотреть профиль Отправить личное сообщение для VVall Найти все сообщения от VVall
  № 6  
Ответить с цитированием
VVall

Регистрация: Feb 2009
Сообщений: 1,195
22 знака - слишком высокая точность.

Цитата:
Double precision floating point provides a relative precision of about 16 decimal digits and magnitude range from about 10-308 to about 10+308.

Старый 27.11.2009, 20:00
PRosTo_LEva вне форума Посмотреть профиль Отправить личное сообщение для PRosTo_LEva Найти все сообщения от PRosTo_LEva
  № 7  
Ответить с цитированием
PRosTo_LEva

Регистрация: Oct 2009
Сообщений: 25
Ладно, с 16 знаками еще можно смириться. Но вот как быть именно с той дробью которая заканчивается буквенным значением?

Старый 27.11.2009, 20:06
DarkLight вне форума Посмотреть профиль Отправить личное сообщение для DarkLight Посетить домашнюю страницу DarkLight Найти все сообщения от DarkLight
  № 8  
Ответить с цитированием
DarkLight
ветеран форума
 
Аватар для DarkLight

Регистрация: May 2006
Адрес: Москва
Сообщений: 2,978
Отправить сообщение для DarkLight с помощью ICQ Отправить сообщение для DarkLight с помощью Skype™
если нужно вывести куда-то в визуально нормальном виде то toFixed в помощь
__________________
4am is time to rock

Старый 27.11.2009, 20:12
PRosTo_LEva вне форума Посмотреть профиль Отправить личное сообщение для PRosTo_LEva Найти все сообщения от PRosTo_LEva
  № 9  
Ответить с цитированием
PRosTo_LEva

Регистрация: Oct 2009
Сообщений: 25
Нет, нужно добавить это значение к текущему времени и вывести в нормальном стандарте.

при прибавлении подобной дроби возникают нереальные даты

Старый 28.11.2009, 14:48
fessor вне форума Посмотреть профиль Отправить личное сообщение для fessor Найти все сообщения от fessor
  № 10  
Ответить с цитированием
fessor

Регистрация: Oct 2009
Сообщений: 101
самое простое что смог придумать:
Код AS1/AS2:
x=Math.floor(x*100000000000000)/100000000000000

Создать новую тему Ответ Часовой пояс GMT +4, время: 09:20.
Быстрый переход
  « Предыдущая тема | Следующая тема »  

Ваши права в разделе
Вы не можете создавать новые темы
Вы не можете отвечать в темах
Вы не можете прикреплять вложения
Вы не можете редактировать свои сообщения

BB коды Вкл.
Смайлы Вкл.
[IMG] код Вкл.
HTML код Выкл.


 


Часовой пояс GMT +4, время: 09:20.


Copyright © 1999-2008 Flasher.ru. All rights reserved.
Работает на vBulletin®. Copyright ©2000 - 2026, Jelsoft Enterprises Ltd. Перевод: zCarot
Администрация сайта не несёт ответственности за любую предоставленную посетителями информацию. Подробнее см. Правила.