Есть два способа:
1. Легкий способ. Скачать готовый хитТест для абсолютно любых форм.
Качаем
2. Трудный способ. Воспользоваться алгеброй/геометрией.
Учимся проверять столкновения двух линий и проверяем каждую линию одного объекта на столкновение с линией другого объекта
Во втором случае идет выйгрышь в производительности