причина в том сколько дробей себе может позволить процессор в ПР и сколько на компе, чтоб сформировать вещественное число
причина в том сколько дробей себе может позволить процессор в ПР и сколько на компе, чтоб сформировать вещественное число
Bad programmers worry about the code. Good programmers worry about data structures and their relationships
среди успешных людей я не встречала нытиков
Барбара Коркоран
Да понятно, что дело в округлении. Тем более, что и возведение в степень...
100 посчиталось "снизу" (99,999(9)), а при преобразовании дробная часть отбросилась. В симуляторе скорее всего алгоритм возведения в степень немного отличается от в железке с процессором без плавающей точки.
А если 10^2.000001?
Последний раз редактировалось pop70; 28.09.2017 в 15:24.