Мониторинг не особо помог. Байты ходят, соединение есть, параметры порта устанавливаются, но это и так было видно.
Дальнейшее изучение показало следующее:
1. Не работают вызовы WinAPI:
EscapeCommFunction (h,SETRTS); - ошибка "недопустимый аргумент"
EscapeCommFunction (h,CLRRTS);
2. dcb.fRtsControl = RTS_CONTROL_TOGGLE;
SetCommState (h,&dcb);
RTS всегда в высоком уровне, а не обрамляет передачу данных
Операционки - XP SP3 х32 и 7 SP1 x64, версия драйвера 1.12. Драйвера пробовались и admin utility, и windows driver manager.