Очень интересную задачку вы себе придумали
Не так давно читал про поиск пересечений между фигурами разных форм
вот это самая полная (на моей памяти) статья с избытком теории и кода.
Я правда всегда старательно обходил тему сложной проверки столкновений, и всегда пользовался упрощенными моделями. Да и вообще эта тема рождает много споров о производительности тех или иных методов, особенно в обстановке, когда важны и точные вычисления и быстрая работа алгоритма