Cпасибо, с запятой розобрался. Как оказалось - не помогло, нужно было не просто перености запятую, а умножать на меньшее.
А проблемма вобщем такая: СИ8 нужен для подсчета импульсов для электронной рулетки. Все просто - на станке рабочий крутит ручку и передвигает ограничитель. Максимальная длина 3 метра. К ручке прикрутили датчик импульсов на 2200 импульсов. Один оборот ручки = 166 мм. Соединив датчик с СИ8 получаем. при P=1 F=0,00081 - при длине до 1 метра показывает значение больше чем по факту, при длине больше 1,5м - меньше.
P=3 F=0,000252 - показывает с точностью 1мм на 3метрах, но часто зависает если крутить часто (с остановками и реверсом).
Подскажите в чем дело. Что нужно поменят счетчик или датчик?