GFreemen, чтобы определить, находится ли точка внутри векторной фигуры, нужно саму фигуру разбить на треугольники и для каждого треугольника определить, находится ли точка внутри него. Последнее делается очень просто (с помощью векторного произведения), см. пример:
http://www.blackpawn.com/texts/pointinpoly/default.html