Короче, звонил я в техподдержку. Велели поставить протокол "УСПД ответ (РРР)" вместо "УСПД ответ (последовательный)"
Там же я узнал то, что они считали очевидным и не писали ни в одной документации. Четность СОМ порта 0-нет, 1-нечет, 2-чет. И все же этого было мало. Они грешили на NP5110, говорили раз с закороткой не звонится, значит неисправен. Заработало только тогда, когда я поменял заводской метрониковский СОМ кабель. Там стоял прямой, я поставил нуль-модемный. Как же так метроника собирает шкафы? Остался вопрос чисто из любопытства, почему не звонится с закороткой. Что бы никто больше не возился с проблемой этой настройки прикрепляю скрины настроек RTU, NP5110 и ZOK. (В скрине №4 ZOК вместо СОМ1 надо поставить номер виртуального СОМ МОХА). Скрин я делал при прямом кабельном подключении. Все заработало, могу с чистой совестью идти в отпуск. Большое спасибо Komantsev и Stepashkinза оперативную помощь!