Я видел что в других эмуляторах это решают с помощью "плагинов".
В своём UKNCBTL я сделал такую попытку - рендереры подключаются как динамически линкуемые DLL
Но это же все надо поддержат, чтобы и под то, и под это.
Впрочем, уж поддержку OpenGL я у себя вообще не вижу нужной)