[BlooDHounD]

меняйте дрова у мышки. если у вас пс/2 то можно выставить 200 герц, и обновление мышки на экране будет гораздо чаще. а что качается резких рывков, то система работает с вашей мышкой, на сколько я помню, по умолчанию 100 герц. тоесть замеры движения то дискретные. и иначе быть не может.

что касается аппроксимации, то возьмите учебник по алгоритмизации за 2 семестр, любого вуза.