проблема похоже не в неработоспособности функции, а то, что функция не поддерживает на выходе булевый тип данных. просто ещё никто не додумался использовать целую функцию на си ради булевой переменной на выходе. возьмите и сделайте в функции if-then по результату операции которая у вас не работает и выводите просто разные числа. вот и проверите результат.