Ставить Linux и на него виртуалку с виндой - извращение.
Под линух есть библиотеки всяческие в тч Modbus
К примеру http://libmodbus.org/
Графический интерфейс пишется на ура в QT к примеру.
Если нет желания вязать всё это руками - есть SCADA для LINUX из их числа есть достойные внимания)