Если есть преобразователь USB в RS, то проще всего использовать Modbus Poll для проверки слейва, и Modbus Slave для проверки мастера, можно по очереди подкидывать и смотреть с какой стороны проблема.