Показано с 1 по 10 из 10

Тема: Точность FLOAT !!!

Комбинированный просмотр

Предыдущее сообщение Предыдущее сообщение   Следующее сообщение Следующее сообщение
  1. #1

    По умолчанию

    У Трм200 разрядность мантиссы 15 бит. Экспоненты - 7 бит
    А числа в -234 степени - коды ошибок. Проверьте мин/макс

  2. #2

    По умолчанию

    А мин\макс это нижний и верхний пределы ТРМ200 ?
    Тогда 0.00 и 1.00 соответственно, а dp= 2

  3. #3

    По умолчанию

    И еще. В конфигураторе ТРМ200 значения показываются нормально.

Ваши права

  • Вы не можете создавать новые темы
  • Вы не можете отвечать в темах
  • Вы не можете прикреплять вложения
  • Вы не можете редактировать свои сообщения
  •