PDA

Просмотр полной версии : Что за "неточности" при суммировании?

GFreemen
23.11.2009, 19:37
/*Что за "неточности" при суммировании*/
var asd:Number=0.1;
var rez:Number=0;
for( var qwe:Number=0;qwe<10;qwe++){
rez=rez+asd;
trace(rez);
}
0.1
0.2
0.30000000000000004
0.4
0.5
0.6
0.7
0.7999999999999999
0.8999999999999999
0.9999999999999999

Это еще что за прикол? Делаю зумирование клипа с шагом 0.1. При 1 и больше должны появляться дополнительные элементы. А тут такая подстава. Пришлось еще и делать округление до десятой.
DarkLight
23.11.2009, 19:52
Тема обсуждалась много раз, в поиск по "округление".
В 2 словах - особенность представления чисел с плавающей точкой, независимая от используемого языка программирования.
GFreemen
23.11.2009, 20:00
Уф...
Спасибо. Думал, толи флеш глючит, то ли я его как-то заглючил, то ли уже голова не варит ни как.