0. Отладка прерывания по визуализации - рассматривание слона в длинную трубу. Что-то сереет, но что? Отладьте программу по шагам в основном коде ПЛК (на малой скорости) и потом переносите в прерывание.
1. Если не нужна реакация <1 мс - используйте штатный конфигурационный энкодер. Он быстрее и не жрет ресурсы.
2. Фильтрация входов - надо подобрать (и желательно посмотреть осциллографом на сигнал)
3. Размах сигнала должен быть не менее 15В (лучше 24).