15.06.2004, 11:45
|
|
Регистрация: Dec 2003
Сообщений: 36
|
вся фишка в том что проц все операции производит в двоичной системе, а дробное число точно перевести в двоичную систему нельзя - можно лишь с заданной точностью.
Например 0.1 (с точностью десять разрядов)= 0.0001100110
а теперь если перевести обратно то 0.0001100110 = 0.99609375
|