Если вы для теста добавите на экран два цифровых ввода (один с dec, другой с unsigned), привязанных к одному регистру, и введете в dec -10, то увидите, что во втором отобразится именно 65526.
Т.е. это просто разные представления одного и того же набора байт в памяти.
Поэтому вопрос в другом - как именно "ругается" ваш контроллер и какой формат данных ему нужен?