Тут уравнение окружности, длина отрезка(расстояние между точками) + localToGlobal/globalToLocal - за глаза.
Если охота поиграться то теорему косинусов можно.
А можно на костылях собрать.
Делаем спрайт с отметкой.
На корабль основной лепим этот мувик, и вращаем вокруг корабля. По отметке будем мерять координаты врагов, которые вокруг него крутятся. Можно еще для каждого врага по такому спрайту сделать.
Соответственно враги летят на корабль, и замеряют расстояние. Когда расстояние становится минимально допустим чтобы начать крутить вокруг корабля - он меняет свою траекторию на круговую (приклеивается на отметку этого самого спрайта).
Как-то так. (ну и я предупредил, что это решение "на костылях"
)
Ну а чтоб корабль не мог из круга вылететь тут надо желаемую механику смотреть, вариантов много есть.
Ну и костыли же не наш метод. Так что приглашаю вас изучить теорему косинусов и уравнение окружности.