В самой ОС регистрация мышки с прерываниями.
Можно нарисовать четырех угольник от предыдущего положения мышки до текущего, чтобы как-бы линия была от круга до круга - это если просто кисточка из круга.
Или можно по по циклу из кругов нарисовать линию, даже с формулами мороки не будет.
Код AS3:
//должно заработать, правда может зависнуть :)
//не проверял
угол=Math.atan2(круг.y-mouseY , круг.x-mouseX);
while(int(mouseX)!=int(круг.x) && int(mouseY)!=int(круг.y))
{
круг.x=круг.x - Math.cos(угол);
круг.y=круг.x - Math.sin(угол)
}
круг.x=int(mouseX);
круг.y=int(mouseY);