В приборах УТ38 RS интерфейс представляет собой "токовую петлю", конечно же это не просто сигнал 4...20мА, это сигнал имеющий определенную кодировку, но в его основе лежит именно постоянный ток уровня 20мА. Соответственно передача токового сигнала по кабелю типа витая пара КРАЙНЕ не желательна!!! Витая пара для того и витая, что бы реализовать максимальную идентичность воздействия помехи на каждый из проводников. Но самое главное это проявление эффекта взаимовлияния проводников витой пары друг на друга при протекании тока такой величины. Для передачи такого сигнала рекомендуют использовать кабель с максимальным разделением жил друг относительно друга. Самым лучшим вариантом был телефонный кабель типа "лапша" (не знаю как он по научному называется). Там жилы разделены достаточно сильно и влияния не наблюдается даже во влажную погоду.

Я не могу гарантировать что причина на 100% в витой паре, но даже если не в ней, то ничего хорошего в том что вы ее применили в любом случае нет.

Рекомендую снять прибор, принести его непосредственно к компьютеру и проверить работу с коротким кабелем (например 0.5м).