У 3DFace может быть или три или четыре вершины. Больше вершин у неё даже в принципе быть не может. Так что пятая вершина - это добавление новой 3DFace.
Хорошо! Я понял.
Тогда как вариант мне нужно к этой трапеции (которая жёлтая на рисунке)
просто достроить еще треугольник (оранжевый к точке С).
В итоге мне нужно закрыть эту плоскость как пятиугольник.
Как показано на картинке.
Только не могу найти пару точек той смой грани до которой нужно достроить треугольник
Пробовал искать кратчайшее расстояние (не помогло)
Как это сделать?
Идея пока такая.
Может как-то перебором пробежаться по точкам трапеции (строив разные треугольники)
до тех пор пока общая площадь перекрытия треугольника и трапеции не будет равна нулю.