Спасибо за подробные разъяснения! Теперь картинка начала проясняться

Итак, я решил немного допилить этот кусок и реализовать SVGA II режим 800x600x60Гц.

Судя из вышеперечисленных алгоритмов вычисления, для 516 точек в строке и частоты 37.8 кГц нужен пиксельклок 19.5МГц.
С помощью PLL получилось сделать 19.512МГц.
В коде поменял полярность ССИ и КСИ на положительную, согласно требованиям видеорежима.
Также убрал деление на 3 (счетчик state), ибо на вход rk_video подаю 19.5Мгц с PLL.
После вычислений получилось точное количество точек в строке 516 при количестве строк 630. Посему поправил 533 на 516 и 625 на 630.

Остался вопрос с началом и концом ССИ и КСИ.
Согласно табличке, длительность горизонтального синхроимпульса должна составлять 3.2us, и вертикального - 106us. Сколько это в точках линии и количествах строк - непонятно, и непонятно в какой момент этот синхроимпульс должен включаться и отключаться. Просветите, плз!