Учитывая отсутствие желания учить PDP-11 ассемблер... Предложение "помогать" звучит как "сделайте, пожалуйста, за меня. А то я не знаю как, и не хочу разбираться в деталях".
По части "допилить GCC". Понимаю, разбираться с GNU toolchain для PDP-11 для настройки кросс-компилятора под себя - это время. Плюс надо бы написать доп. инструменты, чтоб генерить выполняемый файл (SAV) для RT-11, например. Для переиспользования готовых наработок на MACRO-11 в GNU - так же нужно поработать, хотя бы в части конвертации MACRO-11 в GNU AS. Фактически, нужен пре-процессор из MACRO-11 в GNU AS.
Или можно сделать трансляцию *.OBJ, сгенерированных MACRO-11, в *.o (a.out формат). Это проще, чем препроцессор написать.