Наконец-то посмотрел на картинку.
Я в этом случае делал так:
1. Три вершины смежных сегментов образуют треугольник.
2. Берём точку внутри этого треугольника (например, какую-нибудь характерную)
3. И определяем - внутри многоугольника эта точка, или снаружи. Задача о попадании точки внутрь многоугольника - легка. Если хотим самостоятельной работы -
гуглится тоже легко (кстати, советую ресурс - там много хороших алгоритмов описано).
UPD: Правда, я работал не с автокадовскими кривыми, по-этому решал чисто геометрически.