Показать сообщение отдельно
Старый 24.02.2006, 21:17
AlexMatveev вне форума Посмотреть профиль Отправить личное сообщение для AlexMatveev Посетить домашнюю страницу AlexMatveev Найти все сообщения от AlexMatveev
  № 4  
Ответить с цитированием
AlexMatveev

Регистрация: Jun 2003
Адрес: Minsk
Сообщений: 58
Отправить сообщение для AlexMatveev с помощью ICQ
Все потому же....
если взять и сделать так

a = int((10.2-8.1)*10000000);
trace (a)

то получим, а = 20999999
а это значит что после вычисления (10.2-8.1) мы получаем не (2.1), а банально, но факт (2.0999999). А это соответственно не равно (2.1)

Тут получается что все дробные вычисления надо делать через сдвиг разрядной сетки.


-
__________________
Насколько жизнь была бы проще, если она была в исходниках.