Без буфера строки не обойтись. Нужно запоминать целую строку с частотой пикселов для телевизора в буфер, а потом два раза выводить на VGA с удвоенной частотой пикселов (http://www.zx.pk.ru/showpost.php?p=208743&postcount=27). Тогда эффекты на бордере будет видно. На видеокарте ведь есть память. Подумайте - как туда же и два буфера строки уместить ?
Можно во время активной части экрана делать как раньше - выводить сразу из памяти. А запоминать в буфере только информацию c бордера. При этом не надо будет считывать цвета из памяти экрана. На бордере Pentagona информация меняется также с другой частотой, то есть частота пикселов на бордере в два раза меньше частоты пикcелов активной части экрана (http://zx.pk.ru/showpost.php?p=214978&postcount=81).
Возможно это и позволит все скорректировать как надо.