Для того чтобы сгладить полилинию используется метод Polyline2d.ConvertToPolyType или Polyline3d.ConvertToPolyType (в зависимости от типа полилинии). Тип сглаживания задаётся параметром: FitCurvePoly или QuadSplinePoly или CubicSplinePoly.
Если у нас имеется облегченная полилиния (класс Polyline), то её следует предварительно преобразовать в Polyline2d используя метод Polyline.ConvertTo, т.к. облеченная полилиния не может быть сглаженной.
Обратное преобразование выполняется тем же методом ConvertToPolyType с параметром SimplePoly