Попробовал запустить в VAX/RSX под SimH.
Запускается, но подвисает - может чего-то подкрутить еще надо

Код:
        Welcome to VAX/VMS V5.5-2  

Username: SYSTEM
Password: 
        Welcome to VAX/VMS version V5.5-2 on node BETEP
    Last interactive login on Thursday, 12-AUG-1999 22:23
$ MC RSX
%RSX-S-MCRMODENTER, executing MCR commands in process MCR
> RTE /VS

?RTE-I-File not found; creating new private file SY:RT11PR.DSK;0

RTEM-11 (VAX/VMS) V01.00C
На CTRL/P реагирует.

Код:
?RTE-U-Aborted via directive, CLI, or user

>
- - - Добавлено - - -

А RT-11 V4 загрузился - видимо в V5 какая-то команда не эмулируется в VAX/RSX.

Код:
> RTE SYS$LIBRARY:RT11SH.SYS/SH

RTEM-11 (VAX/VMS) V01.00C

RT-11FB (S) V04.00L 

.SET TT SCOPE

.