Показать сообщение отдельно
Старый 15.06.2004, 11:45
kostyanK вне форума Посмотреть профиль Отправить личное сообщение для kostyanK Посетить домашнюю страницу kostyanK Найти все сообщения от kostyanK
  № 8  
Ответить с цитированием
kostyanK

Регистрация: Dec 2003
Сообщений: 36
вся фишка в том что проц все операции производит в двоичной системе, а дробное число точно перевести в двоичную систему нельзя - можно лишь с заданной точностью.

Например 0.1 (с точностью десять разрядов)= 0.0001100110

а теперь если перевести обратно то 0.0001100110 = 0.99609375