Скажу сразу, что ни в одном из AutoCAD'овских API нет готовых средств для этой цели. Самое простое из того, что можно сделать - это получить два набора примитивов и убрать из первого те примитивы, которые есть во втором наборе.
Получаем список вершин (или точек аппроксимации, если в полилинии есть дуговые сегменты) внешней полилинии (назовём его pts1), список вершин (или точек аппроксимации) внутренней полилинии (pts2)
Получаем два набора:
(setq ss1 (ssget "_CP" pts1))
(setq ss2 (ssget "_CP" pts2))
Ну и из набора ss1 выкидываем всё, что есть в наборе ss2. Ну и в конце для выделения набора:
При этом обе полилинии должны находится в видимой области в момент обращения к функциям (ssget)
Как-то так.