Да, пожалуй, напрямую передать AcArray<LayData> в managed не получится.
Придется либо вместо структуры LayData писать навороченный класс, и соответствующий класс в managed,
чтобы можно было сделать преобразование как, например, AcGePoint3dArray в Point3dCollection,
либо поступить проще, и в каком то методе считывать и записывать данные поэлементно.