С прерываниями разобрался, теперь RT-11 грузится. Наконец-то смог набрать DIR и посмотреть каталог
Не сразу понял, что надо терминал на вторую систему команд переключить.