Из немодальной формы так тем более нельзя вызывать выбор элементов. Насколько помню, с такой проблемой кто-то где-то сталкивался, при запуске схожим образом выбора элементов из немодальной формы / dockable pane Revit просто подвисал (хотя должен был крашнуться). Если проблема в этом - читай про ExternalEvent-ы, смотри пример ModelessDialog\ModelessForm_ExternalEvent в SDK