Показано с 1 по 10 из 4290

Тема: Фичи и баги OWEN Logic

Комбинированный просмотр

Предыдущее сообщение Предыдущее сообщение   Следующее сообщение Следующее сообщение
  1. #1
    Пользователь Аватар для capzap
    Регистрация
    25.02.2011
    Адрес
    Киров
    Сообщений
    10,602

    По умолчанию

    причина в том сколько дробей себе может позволить процессор в ПР и сколько на компе, чтоб сформировать вещественное число
    Изображения Изображения
    • Тип файла: png owen.png (73.6 Кб, Просмотров: 24)
    Bad programmers worry about the code. Good programmers worry about data structures and their relationships

    среди успешных людей я не встречала нытиков
    Барбара Коркоран

  2. #2

    По умолчанию

    Цитата Сообщение от capzap Посмотреть сообщение
    причина в том сколько дробей себе может позволить процессор в ПР и сколько на компе, чтоб сформировать вещественное число
    Да понятно, что дело в округлении. Тем более, что и возведение в степень...
    100 посчиталось "снизу" (99,999(9)), а при преобразовании дробная часть отбросилась. В симуляторе скорее всего алгоритм возведения в степень немного отличается от в железке с процессором без плавающей точки.
    А если 10^2.000001?
    Последний раз редактировалось pop70; 28.09.2017 в 15:24.

  3. #3

    По умолчанию

    Цитата Сообщение от pop70 Посмотреть сообщение
    Да понятно, что дело в округлении. Тем более, что и возведение в степень...
    100 посчиталось "снизу" (99,999(9)), а при преобразовании дробная часть отбросилась. В симуляторе скорее всего алгоритм возведения в степень немного отличается от в железке с процессором без плавающей точки.
    Отсюда вывод:
    1) Симулятор хорошо бы поправить, чтобы результат совпадал
    2) Автору нужно где-то взять "универсальный макрос округления". По-просту говоря, нужно перед to_int добавить к числу "0.5" и от результата сложения уже делать to_int.

Похожие темы

  1. OWEN Logic v1.7
    от Евгений Сергеевич в разделе Среда программирования OWEN Logic
    Ответов: 404
    Последнее сообщение: 25.08.2020, 15:17
  2. OWEN Logic v1.7
    от Евгений Сергеевич в разделе Программируемые реле
    Ответов: 401
    Последнее сообщение: 28.07.2016, 19:46
  3. OWEN Logic 1.2.0.14b
    от Ельцов Андрей в разделе Программируемые реле
    Ответов: 40
    Последнее сообщение: 21.02.2011, 14:16
  4. OWEN Logic 1.1.0.11b
    от Ельцов Андрей в разделе Программируемые реле
    Ответов: 58
    Последнее сообщение: 12.10.2010, 20:55

Ваши права

  • Вы не можете создавать новые темы
  • Вы не можете отвечать в темах
  • Вы не можете прикреплять вложения
  • Вы не можете редактировать свои сообщения
  •