Показано с 1 по 5 из 5

Тема: Работа функции взятия числа X к степени Y (EXPT)

  1. #1

    Exclamation Работа функции взятия числа X к степени Y (EXPT)

    Уважаемые форумчане нашёл вот такой прикол:

    При выполнении EXPT(2,21) число равное = 2097153. О_О
    При использовании обычного калькулятора виндоус = 2097152
    __________________
    разница равна 1

    Идем далее

    При выполнении EXPT(2,23) число равное = 8388605. О_О
    При использовании обычного калькулятора виндоус = 8388608
    __________________
    разница равна 3

    Идем далее

    При выполнении EXPT(2,32) число равное = 4294968009. О_О
    При использовании обычного калькулятора виндоус = 4294967296
    __________________
    разница равна 713


    Промежуточные значения тоже оличаются.

  2. #2
    Пользователь
    Регистрация
    13.10.2011
    Адрес
    Златоуст
    Сообщений
    1,021

    По умолчанию

    Упёрлись в точность FPU процессора и/или реализации pow() рантайма. Паниковать не стоит, так задумано. И вообще делать строгое сравнение плавающих чисел это весьма дурной тон. Двойку принято возводить в степень сдвигом влево, если что (SHL(DWORD#2, 20)).

    Калькулятор винды, в свою очередь, использует длинную арифметику, и с ним предел нащупать трудно. Воспроизвести неточность на компьютере можно в какой-нибудь среде программирования (тот же кодесис в режиме симуляции) возведением в ещё большую степень.
    Последний раз редактировалось Yegor; 28.02.2016 в 00:16.

  3. #3

    По умолчанию

    Сам знаю уже сделал так, голова думает математически.

  4. #4

    По умолчанию

    EXP (Y * LN (X)) Результат аналогичен.

  5. #5
    Пользователь
    Регистрация
    23.09.2008
    Адрес
    Центророссийск
    Сообщений
    2,251

    По умолчанию

    Цитата Сообщение от saniyo Посмотреть сообщение
    Сам знаю уже сделал так, голова думает математически.
    Математически ? )) тута все по полочкам.
    Последний раз редактировалось Валенок; 07.01.2022 в 21:23.

Похожие темы

  1. Генерация случайного числа
    от Gans в разделе Трёп (Курилка)
    Ответов: 28
    Последнее сообщение: 26.07.2016, 14:21
  2. Вещественные числа
    от The-Boss в разделе Master SCADA 3
    Ответов: 5
    Последнее сообщение: 27.11.2015, 16:47
  3. Вещественные числа
    от Александр86 в разделе ПЛК1хх
    Ответов: 2
    Последнее сообщение: 21.02.2013, 16:34
  4. преобразование степени счисления
    от niklud19511 в разделе ПЛК1хх
    Ответов: 13
    Последнее сообщение: 02.06.2011, 16:56

Метки этой темы

Ваши права

  • Вы не можете создавать новые темы
  • Вы не можете отвечать в темах
  • Вы не можете прикреплять вложения
  • Вы не можете редактировать свои сообщения
  •