Фичи и баги OWEN Logic

[Project M]

Это причина не работы гораздо более сложного алгоритма, нежели простая визуализация

Накидал схемку и протестил исключительно для демонстрации косяка. Пробовал связки с другими арифметическими компонентами, всё нормально. Только в этой связке
И самое смешное, что именно такая связка и именно с такими параметрами используется в моей программе несколько раз.

[Ревака Юрий]

Это причина не работы гораздо более сложного алгоритма, нежели простая визуализация

Накидал схемку и протестил исключительно для демонстрации косяка. Пробовал связки с другими арифметическими компонентами, всё нормально. Только в этой связке
И самое смешное, что именно такая связка и именно с такими параметрами используется в моей программе несколько раз.

Проверил, действительно, после приведения float в INT, на экране 99, в симуляции 100, если брать float, все ОК, узнаю причину.

[Project M]

2017-09-28_14-16-56.png

DSC_0273 (2).JPG

2017-09-28_14-17-52.png

DSC_0274 (2).JPG

2017-09-28_14-18-32.png

DSC_0275 (2).JPG

2017-09-28_14-19-22.png

DSC_0276 (2).JPG

[capzap]

причина в том сколько дробей себе может позволить процессор в ПР и сколько на компе, чтоб сформировать вещественное число

[Ревака Юрий]

2017-09-28_14-16-56.png

DSC_0273 (2).JPG

2017-09-28_14-17-52.png

DSC_0274 (2).JPG

2017-09-28_14-18-32.png

DSC_0275 (2).JPG

2017-09-28_14-19-22.png

DSC_0276 (2).JPG

Да, именно со 100 непонятка, разбираемся.

[pop70]

причина в том сколько дробей себе может позволить процессор в ПР и сколько на компе, чтоб сформировать вещественное число

Да понятно, что дело в округлении. Тем более, что и возведение в степень...
100 посчиталось "снизу" (99,999(9)), а при преобразовании дробная часть отбросилась. В симуляторе скорее всего алгоритм возведения в степень немного отличается от в железке с процессором без плавающей точки.
А если 10^2.000001?

[Владимир Ситников]

Да понятно, что дело в округлении. Тем более, что и возведение в степень...
100 посчиталось "снизу" (99,999(9)), а при преобразовании дробная часть отбросилась. В симуляторе скорее всего алгоритм возведения в степень немного отличается от в железке с процессором без плавающей точки.

Отсюда вывод:
1) Симулятор хорошо бы поправить, чтобы результат совпадал
2) Автору нужно где-то взять "универсальный макрос округления". По-просту говоря, нужно перед to_int добавить к числу "0.5" и от результата сложения уже делать to_int.

[Pavel_]

Проверил, действительно, после приведения float в INT, на экране 99, в симуляции 100, если брать float, все ОК, узнаю причину.

Были похожие случаи, но значения в ОЛ и на экране соответствовали.

[Project M]

Господа форумчане, благодарю всех за советы (убедился, действительно живём в стране советов).

Проблему решил, переписал кусок кода без использования функции возведения в степень.

Кстати, если отобразить без преобразования to_Int, показывает 100,0

[Ревака Юрий]

Кстати, если отобразить без преобразования to_Int, показывает 100,0

to_INT не делает округления, он просто отбрасывает дробную часть.