Не, 6.5 там не фигурирует, 6.25 (12.5/2).

У меня есть дикое предположение, надеюсь неправильное, что некоторые точки при выводе пропускаются. Тогда все получается легко и просто.
Если выборка видеоданных 2 байта за 3 такта процессора, то
1) Tсpu*3=1.25 мкс
2) 1.25 мкс/Tpix512=15 точек. Т.е. при такой прикидке в режиме 512 точек не успеваем показать 1 точку из 16. В режиме 256 покажем 7 с половиной точек.