Цитата:
|
Сообщение от mrspb
не, int - не туда округляет :) Туда окугляет Math.round(theNumber)
|
какая разница, чем округлять?
задача - сдвинуть разрядную сетку так, чтобы неточность вычислений _для нашей конкретной задачи_ не менялась при ошибках в числах с плавающей точкой. умножили всё на 10^N - получили сдвиг разрядной сетки на N разрядов (поскольку речь о десятичной системе). после округления ошибка никуда не денется (на то оно и округление), но просто будет пренебрежимо мала.
кстати,
вот тут, точно такая же тема рассматривалась.