И так плата запустилась!
Дали мне плату памяти на проверку, добрые люди. Спасибо им!
Последовательность действий:
Плата MSV11-P (M8067), на ней надо выставить правильный начальный адрес(перемычки накруткой проволоки делаются).
Теперь при старте машины нужно давить Ctrl + O
После чего выдает туже ошибку и тот же выбор
Command Description

1 Return test
2 Loop test

Но мы теперь можем нажать кнопу 4 и о чудо попасть в Setup menu.
Там набираем SETUP
Пункт 2
и подпункте H выставляем внутренний генератор на 50 или 60Гц (1 или 2)
Сохраняем настройки в EEPROM.
И теперь плата запускается без ошибок.

Попробовал загрузить RT11 через терминал Patrona HX но почему то фокус не прошел.