Если мячик с импульсом ball налетает на прямую с направляющей wall, то его импульс после отскока станет:

Код AS3:
public function f(ball:Point, wall:Point):Point
{
var a:Number = (ball.x * wall.x + ball.y * wall.y) / (ball.length * wall.length);
var k:Number = 2* (ball.length * a / wall.length);
return new Point(wall.x*k - ball.x, wall.y*k - ball.y);
}