Math.atan2 все это дело учитывает
Код AS3:
rotation = (180 / Math.PI) * Math.atan2(_y2, _x2);// y идет сначала
У Вас, если не ошибаюсь, по логике Math.acos вместо Math.cos должен быть
Стоп:
_x на поворот влиять должен?, или все вектором (_x2, _y2) определяется?