Цитата Сообщение от Muhomor-74 Посмотреть сообщение
Спасибо, Петр, я Вас понял, картинка сразу не прогрузилась.
А вот собственно из за чего смотреть стал:
В настройках прибора аналоговый вход не изменили на дискретный и подали +24, видимо в следствие этого, изменение в настройках прибора даёт теперь при 0=0, при +24=1,4*10(-45) степени. Зато очень точно всегда ).
Это Вам просто ОЛ показывает округленное значение, а что там после 4 не известно

Например 1.0056 на самом деле представлен как 1.0055999755859375 http://www.binaryconvert.com/result_...46048048053054