PDA

Просмотр полной версии : SQRT(4294967294) = -1.#QNAN



Shurick
02.12.2021, 17:21
Коллеги, почему не считается корень от максимального значения DWORD ?

ferret_maybe
02.12.2021, 17:54
Предположительно идет конверсия в REAL, а затем извлечение корня. При конверсии получается ошибка.
число более IEEE754=FF 80 00 00hex считается числом -∞, извлекать корень из числа минус бесконечности как-то не очень разумно.
https://www.softelectro.ru/ieee754.html

58179

kondor3000
02.12.2021, 17:58
Коллеги, почему не считается корень от максимального значения DWORD ?

Вот же людям делать нечего, а почему из REAL корень берётся?

c1:=SQRT(4294967294.0); с1=65536

Сергей0308
02.12.2021, 18:03
Если речь про квадратный корень(надо вопрос "здравый" задавать), так вот, мне кажется квадратных корней из отрицательных чисел не бывает в принципе!

capzap
03.12.2021, 07:51
Коллеги, почему не считается корень от максимального значения DWORD ?

поступайте проще, подключите библиотеку оскат, раздел математика и смотрите исходник нужной функции 58188