Попробуй через конденсатор подключиться, хотя бы 1 мкф последовательно с сигналом. Или даже 0.1 мкф. Если не поможет - добавь еще делитель напряжения, чтобы уровень сигнала снизить раза в 2. У тебя, похоже, сильная перегрузка по видеовходу, неустройчиво декодируются синхроимпульсы, отсюда и дергание.

А вообще, сдается мне, твой тюнер сделан на чем-то типа STK1160. Посмотри, там вроде среди параметров модуля usbtv были и параметры настройки чувствительности.