Управление моментом при обратном ходе

[По самые по...]

...
Т.е. умный частотник по матмодели расчитает выход на двигатель и двигатель будет давить с заданной силой. А если приложить в противоположном направлении силу превышающую - провернём назад. А вот нет. И вот тут я физику не понимаю, почему сила действия не постоянна, возрастает при нарастании силы противодействия. И роль энкодера. ...

Потому что в установке надо контролировать скорость и положение

Роль энкодера - знать положение, когда снимать воздействие и регулировать скорость. Просто так давить - нельзя!
У вас по сути - сервопривод.