В строке AcGe.Matrix3d mat = ed.CurrentUserCoordinateSystem; мы получаем матрицу mat преобразования из ПСК в МСК.
ed.GetPoint даёт нам в res.Value координату, указанную пользователем, в ПСК.
Таким образом AcGe.Point3d pt = res.Value.TransformBy(mat); даёт нам точку, которую указал пользователь, но преобразованную в МСК. Это преобразование нужно для внесение информации о вершине полилинии, так как вершины хранят информацию именно в МСК.