Напишите конкретно что надо сделать, без лирических отступлений о том как все сложно. Что уже есть, что не получается? По моим догадкам вы хотите смоделировать двумерное движение + столкновения.
hitTestPoint(x:Number, y:Number, shapeFlag:Boolean = false):Boolean может проверять пересечение объекта с точкой. То что вы называете невидимый прямоугольник это габаритный контейнер объекта, можно проверять пересечение не с ним, а с сами объектом, для этого shapeFlag задаем равным true. Потом рисуете, например, ограждение трассы сложной формы, а на машине устанавливаете несколько точек для проверки пересечения hitTestPoint.
вот тут так сделано, только это AS2 (метод hitTest()):
http://tester.kiti-art.ru/flash/fish5.html