Примерно так должно быть:
Код AS3:
const product : Number = (point.y - targ.y) * (ship.y - targ.y) + (point.x - targ.x) * (ship.x - targ.x);
if (product > 0) {
DAngle = -DAngle;
}
Вроде бы со знаком сравнения не напутал.
Вычисление угла и вращение стоит оставить ваше.