Добрый день.
А может энкодер установить на промежуточном ролике, через который опускается крюк. Судя по рисунку.
Тогда не нужно будет учитывать изменяющийся диаметр намотки катушки. Ну и зная диаметр промежутка можно точно посчитать длину троса и этот коэффициент заложить в счётчик.
Получим длину в нужных единицах (СМ).
Ну а энкодер подбирать по максимальной частоте импульсов, воспринимаемой счётчиком.
С уважением.