Ярослав, все проще. У класса Family в 2016 Ревите появился метод GetFamilyTypeParameterValues, которому нужно передать Id нужного параметра.
Он возвращает список ElementId-шек, по ним запрашивая doc.GetElement получаешь либо ElementType, либо как раз NestedFamilyTypeReference. Я так понимаю, если вложенное семейство общее, то есть его типы доступны в проекте, то будет ElementType, если не общее - NestedFamilyTypeReference. Ну а дальше, NestedFamilyTypeReference наследуется от Element, из собственных свойств/методов вижу только:
FamilyName - Name of the referenced family
TypeName - Type of the referenced family