Странное дело, при default установках COM-порта вообще ничего не передается в VT52 терминал. Поставил настройки как в конфиге который работал на УК-НЦ, там по стравнению с default такое:

fDtrControl = DTR_CONTROL_ENABLE
fRtsControl = RTS_CONTROL_HANDSHAKE
fOutxCtsFlow = TRUE

После этого передается все нормально, но сам HX server на символ пришедший @ никак не реагирует, пишет:

Waiting for ODT prompt: @

c IP конфигом и эмулем работает нормально.