На самом деле разрешающая способность измерителя при работе с температурными датчиками составляет не 0,01С, а в среднем от 0,03 до 0,1С. Это вызвано дискретностью применяемого АЦП, которая составляет 15 бит, а также математики, компенсирующей нелинейность датчиков. Разная разрешающая способность зависит от конкрентного типа датчика и от диапазона измерения. Минимальную разрешающую способность имеют датчики ТСМ, которые практически абсолютно линейны. Для них она составляет не более 0,016С. Для платиновых термометров сопротивления побольше - от 0,06 до 0,15. У термопар от 0,06С для ТХКи ТХА до 0,25С для ТПП и ТПР.

Разработчик измерителей ОВЕН.