Показано с 1 по 5 из 5

Тема: SQRT(4294967294) = -1.#QNAN

Комбинированный просмотр

Предыдущее сообщение Предыдущее сообщение   Следующее сообщение Следующее сообщение
  1. 02.12.2021, 17:54 #1
    ferret_maybe
    ferret_maybe вне форума
    Пользователь
    Регистрация
    12.07.2010
    Сообщений
    256

    По умолчанию

    Предположительно идет конверсия в REAL, а затем извлечение корня. При конверсии получается ошибка.
    число более IEEE754=FF 80 00 00hex считается числом -∞, извлекать корень из числа минус бесконечности как-то не очень разумно.
    https://www.softelectro.ru/ieee754.html

    ieee754_14.gif
    Последний раз редактировалось ferret_maybe; 02.12.2021 в 17:58.
    Ответить с цитированием Ответить с цитированием
« Предыдущая тема | Следующая тема »

Похожие темы

  1. Чему равен -1.#QNAN
    от Пьер в разделе ПЛК1хх
    Ответов: 6
    Последнее сообщение: 24.10.2017, 08:46
  2. -1#qnan
    от Yggy в разделе ПЛК1хх
    Ответов: 11
    Последнее сообщение: 20.07.2016, 10:04
  3. FB PID_FUNCTION на выходе -1.#QNAN
    от olegV в разделе ПЛК1хх
    Ответов: 0
    Последнее сообщение: 21.12.2010, 20:27
  4. -1.#qnan в пид регуляторе
    от Aplle в разделе ПЛК1хх
    Ответов: 7
    Последнее сообщение: 13.12.2010, 22:47
  5. Ошибка -1.#QNAN в блоке PID-регулятора
    от Flomaster в разделе ПЛК1хх
    Ответов: 10
    Последнее сообщение: 13.12.2010, 22:43

Ваши права

  • Вы не можете создавать новые темы
  • Вы не можете отвечать в темах
  • Вы не можете прикреплять вложения
  • Вы не можете редактировать свои сообщения
  •  

Правила форума