Просмотр полной версии : SQRT(4294967294) = -1.#QNAN
Коллеги, почему не считается корень от максимального значения DWORD ?
ferret_maybe
02.12.2021, 17:54
Предположительно идет конверсия в REAL, а затем извлечение корня. При конверсии получается ошибка.
число более IEEE754=FF 80 00 00hex считается числом -∞, извлекать корень из числа минус бесконечности как-то не очень разумно.
https://www.softelectro.ru/ieee754.html
58179
kondor3000
02.12.2021, 17:58
Коллеги, почему не считается корень от максимального значения DWORD ?
Вот же людям делать нечего, а почему из REAL корень берётся?
c1:=SQRT(4294967294.0); с1=65536
Сергей0308
02.12.2021, 18:03
Если речь про квадратный корень(надо вопрос "здравый" задавать), так вот, мне кажется квадратных корней из отрицательных чисел не бывает в принципе!
Коллеги, почему не считается корень от максимального значения DWORD ?
поступайте проще, подключите библиотеку оскат, раздел математика и смотрите исходник нужной функции 58188
Powered by vBulletin® Version 4.2.3 Copyright © 2024 vBulletin Solutions, Inc. All rights reserved. Перевод: zCarot