Показано с 1 по 10 из 15

Тема: Проблема точных вычислений

Комбинированный просмотр

Предыдущее сообщение Предыдущее сообщение   Следующее сообщение Следующее сообщение
  1. #1

    По умолчанию

    Цитата Сообщение от Chupakabra Посмотреть сообщение
    Может LREAL ?
    Он не работает в контроллере так что нет смысла его использовать

  2. #2
    Пользователь
    Регистрация
    18.03.2007
    Адрес
    г. Краснодар
    Сообщений
    233

    По умолчанию

    10^(-15) - 10^(-16),наилучший вариант 10^(-20)
    это числа с 15-20 разрядами, можно программно создать целое число с таким разрядом (пример array) и сделать ФБ для присвоения и вычисления мат. функций над этими числами (поразрядное сложение вычитание и тп. как в школе на тетрадке во 2 класе).

  3. #3

    По умолчанию

    Цитата Сообщение от Сергей71 Посмотреть сообщение
    это числа с 15-20 разрядами, можно программно создать целое число с таким разрядом (пример array) и сделать ФБ для присвоения и вычисления мат. функций над этими числами (поразрядное сложение вычитание и тп. как в школе на тетрадке во 2 класе).
    Я об этом тоже думал,ет уже извращенство
    Этой среде программирования ой как не хватает динамических массивов и и повышенной точности вычисления

  4. #4

    По умолчанию

    Цитата Сообщение от Anatol_rus Посмотреть сообщение
    Он не работает в контроллере так что нет смысла его использовать
    Цитата Сообщение от Anatol_rus Посмотреть сообщение
    Этой среде программирования ой как не хватает динамических массивов и и повышенной точности вычисления
    В среде-то поддержка есть (LREAL), нет у конкретного таргета.
    Нашел тут одну библиотеку (от другого производителя), где описано 64bit-ное целое и безнаковое числа и базисные мат. операции над ними.

    TYPE T_LARGE_INTEGER :
    (* 64 bit signed integer *)
    STRUCT
    dwLowPart : DWORD; (* least significant 32 bits (2's-complement) *)
    dwHighPart : DWORD; (* most significant 32 bits *)
    END_STRUCT
    END_TYPE

    TYPE T_ULARGE_INTEGER :
    STRUCT
    dwLowPart : DWORD;
    dwHighPart : DWORD;
    END_STRUCT
    END_TYPE
    Последний раз редактировалось Chupakabra; 03.03.2009 в 10:54.

Ваши права

  • Вы не можете создавать новые темы
  • Вы не можете отвечать в темах
  • Вы не можете прикреплять вложения
  • Вы не можете редактировать свои сообщения
  •