Вид для печати
Это причина не работы гораздо более сложного алгоритма, нежели простая визуализация :cool:
Накидал схемку и протестил исключительно для демонстрации косяка. Пробовал связки с другими арифметическими компонентами, всё нормально. Только в этой связке :cool:
И самое смешное, что именно такая связка и именно с такими параметрами используется в моей программе несколько раз. :eek:
Проверил, действительно, после приведения float в INT, на экране 99, в симуляции 100, если брать float, все ОК, узнаю причину.Цитата:
Сообщение от Project M
Вложение 33338
Вложение 33345 ;)
Вложение 33339
Вложение 33342 :eek: :confused:
Вложение 33340
Вложение 33343 ;)
Вложение 33341
Вложение 33344 ;)
причина в том сколько дробей себе может позволить процессор в ПР и сколько на компе, чтоб сформировать вещественное число
Да, именно со 100 непонятка, разбираемся.Цитата:
Сообщение от Project M
Да понятно, что дело в округлении. Тем более, что и возведение в степень...Цитата:
Сообщение от capzap
100 посчиталось "снизу" (99,999(9)), а при преобразовании дробная часть отбросилась. В симуляторе скорее всего алгоритм возведения в степень немного отличается от в железке с процессором без плавающей точки.
А если 10^2.000001?
Отсюда вывод:Цитата:
Сообщение от pop70
1) Симулятор хорошо бы поправить, чтобы результат совпадал
2) Автору нужно где-то взять "универсальный макрос округления". По-просту говоря, нужно перед to_int добавить к числу "0.5" и от результата сложения уже делать to_int.
Были похожие случаи, но значения в ОЛ и на экране соответствовали.Цитата:
Сообщение от Ревака Юрий
Господа форумчане, благодарю всех за советы (убедился, действительно живём в стране советов).
Проблему решил, переписал кусок кода без использования функции возведения в степень.
Кстати, если отобразить без преобразования to_Int, показывает 100,0
to_INT не делает округления, он просто отбрасывает дробную часть.Цитата:
Сообщение от Project M