Коллеги, почему не считается корень от максимального значения DWORD ?
SQRT(4294967294) = -1.#QNAN
Коллеги, почему не считается корень от максимального значения DWORD ?
Последний раз редактировалось Shurick; 02.12.2021 в 17:30.
Предположительно идет конверсия в REAL, а затем извлечение корня. При конверсии получается ошибка.
число более IEEE754=FF 80 00 00hex считается числом -∞, извлекать корень из числа минус бесконечности как-то не очень разумно.
https://www.softelectro.ru/ieee754.html
ieee754_14.gif
Последний раз редактировалось ferret_maybe; 02.12.2021 в 17:58.
Вот же людям делать нечего, а почему из REAL корень берётся?Сообщение от Shurick
c1:=SQRT(4294967294.0); с1=65536
Если речь про квадратный корень(надо вопрос "здравый" задавать), так вот, мне кажется квадратных корней из отрицательных чисел не бывает в принципе!
Если проблему можно решить за деньги, это не проблема, это расходы. Бог каждому посылает проблемы по его силам. Так что одно из двух. Либо ты можешь-таки
справиться с проблемами, либо это не твои проблемы.
поступайте проще, подключите библиотеку оскат, раздел математика и смотрите исходник нужной функции owen.png
Bad programmers worry about the code. Good programmers worry about data structures and their relationships
среди успешных людей я не встречала нытиков
Барбара Коркоран
Ваши права
Ответить с цитированием