[expl]

Для выпкулого пногоугольника все гораздо проще:
1. Берем любые 3 точки, идущие подряд.
2. Условие по часовой=true, против=false:
(x1-x0)*(y2-y1) - (x2-x2)*(y1-y0) > 0
Для невыпуклого могут быть участки и по часовой и против, может их проссумировать как-то. Википедия в помощь