Проблем с Z-энкодером не наблюдалось (убирайте только фильтрацию в 0 ).
Был единственный раз, когда контроллер не мог определить направление вращения энкодера -> после проверки последнего на осциллографе выяснилось, что фронты не сдвинуты на 90. Оказалось небольшое механическое повреждение энкодера.