Мне больше нравится, когда плоскость задается нормалью и оффсетом из формулы Ax + By + C = 0, где A - x нормали, B - y нормали, C - оффсет
Тогда и отражение от плоскости считается очень просто:

Код AS3:
function reflect(vector:Point, normal:Point):void {
// Поскольку длина нормали 1, скалярное произведение дает проекцию
// вектора на перпендикуляр к плоскости
var dot:Number = vector.x*normal.x + vector.y*normal.y;
// Меняем направление вектора противоположно плоскости
vector.x -= 2*dot*normal.x;
vector.y -= 2*dot*normal.y;
}
Получить номаль из угла можно так:

Код AS3:
normal.x = -Math.sin(angle);
normal.y = Math.cos(angle);
Добавлено через 6 минут
Всмысле не плоскость, а прямая. Но для плоскости формулы будут теже.