Дело не в протоколе Модбас, а в спецификациях на RS485.
Всё что надо сделать в первую очередь, так это тупо выполнить требования к медиа.
"Витая пара" - это ни о чём. Спецификации RS485 гораздо более конкретны.
И промышленность выпускает туеву хучу кабелей именно для этого интерфейса.
И каждый из производителей норовит указать на рекомендации по прокладке промышленных сетей на основе RS485.
Правила одни и те же.
По-гуглите рекомендации для Profibus, DH+, DH-RIO, DeviceNET - все эти сети основаны на RS485.
Интерфейс один, протоколы разные.