Итак, добился стабильной работы тестов памяти, видео-подсистема работает стабильно.
В связи с чем возник вопрос - оставить удвоение пикселей или сделать учетверение? В последнем случае получится реальное разрешение 1200х1000 (с учётом расширения до 480 столбцов в будущем). Так же это позволит использовать медленную внешнюю память (сейчас необходима минимум с частотой 38МГц (около 30нс).