Вроде, вторичный загрузчик RT-11 v5.0 и выше - распознаёт Эл.85 и пытается загрузить драйвер PI.SYS - я этого пока не учитывал, поэтому вряд ли сейчас удастся успешно загрузить RT-11SP на Эл.85.
Для 5.7 можно попробовать поправить в BSTRAP.MAC строчку PRO$S=1, заменив 1 на 0.