Технические измерения и обработка результатов. Статистическая обработка прямых равнорассеянных измерений: Методические указания к лабораторным работам № 1-2 по курсу "Метрология, стандартизация и технические измерения", страница 5

При организации измерений в производственных условиях помимо технических и метрологических параметров измерительных средств необходимо учитывать и экономические факторы (стоимость, амортизационные отчисления и т.п.).

Информацию о всех перечисленных характеристиках для принятия решения можно получить в отраслевых каталогах и справочниках.

2.4. Правила округления приближенных чисел и записи  результатов измерений

Результаты и погрешности измерений выражаются приближенными числами, по указанной причине целесообразно напомнить основные правила их округления и записи[6].

Лучше преувеличить погрешность измерения, чем ее  преуменьшить при записи.

В приближенном числе цифры имеют разную значимость и называются по-разному.

Значимость цифр можно установить лишь в случае, когда задана абсолютная погрешность числа. При десятичной форме записи: цифры приближенного числа, имеющие тот же десятичный разряд, что и две первые отличные от нуля цифры его абсолютной погрешности, называются сомнительными.

Цифры левее сомнительных – верные, правее – неверные. Неверные цифры всегда отбрасываются.

Пример. В числе 0.00074690 ± 00.00003 цифры «0.0007» – верные; цифра «4» – сомнительная; цифра «690» – неверные.

Сомнительные и верные цифры, не являющиеся стоящими слева нулями, называются значащими цифрами. Так, в приведенном примере цифры «74» значащие, остальные незначащие.

При записи числа в нормальной форме в качестве мантиссы используются значащие цифры

    

Если при записи приближенного числа в десятичной форме отсутствуют указания о его погрешности, то все указанные цифры в числе считаются верными, а абсолютная предельная погрешность числа считается равной половине единицы последнего разряда.

Пример. Пусть l= 19,6 м, тогда  Δl= ±0,05 м.

В этом случае количество значащих цифр определяет точность числа. Например, числа 7,50 ·103 м и 7,5 ·103 м следует считать различными: точность первого ±5 м, второго ±50 м.

Общее правило округления гласит:

если цифра старшего из отбрасываемых разрядов  больше, или равна 5, а за ней следуют не равные нулю цифры, то последняя цифра оставшегося числа увеличивается на единицу: например 36,52 ≈ 37.

Если отбрасываемая цифра равна 5, то округляемое число следует делать четным, изменяя или не изменяя последнюю оставшуюся цифру. Например: 22.5 ≈ 22; 37.5 ≈ 38.

В окончательной записи абсолютная погрешность измерения обычно округляется до двух значащих цифр, если цифра старшего разряда  ≤03. Вторая цифра при этом берется равной 5. Например: ∆C = ±0.23 пФ = ±0.25 пФ. Если – больше 3, то погрешность выражается числом с одной значащей цифрой, при этом цифра 9 не должна использоваться.

Относительная погрешность округляется всегда до двух значащих цифр.

    

Правило округления результата. Значение результата измерений должно оканчиваться теми же десятичными разрядами, что и значение его абсолютной погрешности.

В промежуточных расчетах целесообразно увеличивать  число значащих цифр в записи погрешности до трех-четырех,  чтобы не получить искажения результатов за счет промежуточных округлений.

Проиллюстрируем вышеизложенное на примере определения погрешности измерения по данным о точности используемого прибора.

Пусть паспортная предельная ненормированная погрешность измерения частоты частотомером выражена формулой ∆F/FК= ±10% ±1, а показания прибора частотомера 375,5 Гц  (FК – крайнее показание шкалы прибора).

Требуется определить абсолютную погрешность измерения частоты и записать результат.

Вычислим границы абсолютной погрешности.

    

Произведем округление погрешности

    

Зная абсолютную погрешность результата, отбросив неверные знаки, имеем F=375 ± 39 Гц или в нормированной форме