Цитата Сообщение от vladimirisitnikov Посмотреть сообщение
Вы ОДЗ логарифма или вашего алгоритма имели ввиду?
да
Цитата Сообщение от vladimirisitnikov Посмотреть сообщение
До 1/256 это как?
если Вы не в курсе, ПР как и любая другая ЭВМ считает, и хранит информацию в двоичном виде, поэтому число вида 1/2ⁿ в компьютере будет точное, а 1/10ⁿ будет округлённым
Цитата Сообщение от vladimirisitnikov;ⁿ211260
Абсолютная погрешность в 1/256 на всём интервале?
да, абсолютная
Цитата Сообщение от vladimirisitnikov Посмотреть сообщение
Мне логарифм не нужен
тогда зачем все эти вопросы?
Цитата Сообщение от vladimirisitnikov Посмотреть сообщение
FPU табличными методами работают.
то что современные FPU больше похожи на таблицы Брадиса, я знаю, но не всегда это было так....
PS наверняка вы даже не смотрели мой код, и к тому же этот макрос вам не нужен, поэтому я пожалуй больше не буду с вами его обсуждать...
Буду бисер экономить...