Правила округления чисел, страница 4

В уравнениях физической химии встречаются величины, которые по их свойствам относятся либо к классу бесконечных десятичных дробей, либо к целым числам. Точные десятичные дроби в принципе не встречаются. В исходном общем уравнении целые числа обычно представлены в явном виде (цифрами), а бесконечные дроби символами переменных величин. (Исключение составляют квантовые числа, стехиометрические коэффициенты, числа степеней свободы и немногие другие величины, которые относятся к классу целых чисел, но могут даваться в уравнениях символами переменных). Например, в уравнении энергии одного моля идеального одноатомного газа U =  числа 3 и 2 являются целыми, тогда как значения R и Т в принципе относятся к классу бесконечных десятичных дробей. (Заметьте, это уравнение никогда не записывается в виде U = 1.5RT, с десятичной дробью в качестве коэффициента). При вычислениях по таким формулам правила 3 и 4 должны применяться только к приближенным числам, тогда как число цифр целых чисел, как правило, не должно приниматься во внимание. Аналогичным образом, при вычислении погрешности по уравнению 1 значения погрешностей Dх целых чисел, как правило, следует принимать равными нулю.

Сделанные выше оговорки "как правило" связаны с тем, что характер числа, представляющего данную физическую величину в формуле, может зависеть от контекста задачи, а не только от объективных свойств этой величины. Например, сравните условие примера 3 со следующим:

В условии примера 3 сообщалось, что при температуре Т = 300 К был найден тепловой эффект DН = -103.90 кДж/моль. Из этого ясно, что температура была измерена, с некоторой погрешностью. Не зная этой погрешности, приходилось принять, что точное значение температуры могло быть любым в интервале от 299.5 до приблизительно 300.5 К, и это служило оправданием применения правила 3. В отличие от этого, в условии примера 5 требуется провести вычисления для 1 моля при 0 °С, но не для 1±0.5 молей при ±0.5 °С. Поэтому в данном примере количество газа и значение температуры должны рассматриваться как точные, несмотря на то, что в принципе обе эти величины относится к классу бесконечных десятичных дробей. Соответственно, в примере 5 число значащих цифр результата вычисления должно отвечать числу значащих цифр константы 273.15.

Правило значащих цифр иногда нарушается, когда речь идёт о независимых переменных, значения которых могут устанавливаться в экспериментальной практике произвольно и с относительно высокой точностью. Например, если требуется приготовить раствор с валовой концентрацией 5 ммоль/л, то с помощью лабораторных весов и измерительной колбы можно (в хорошей лаборатории) действительно приготовить раствор 5.000 ммоль/л (а не 5.001 и т.п.). В этом случае правилом значащих цифр часто пренебрегают и обращаются с величиной 5 ммоль/л как если бы 5 было точным числом. Поэтому, если в условии задачи указана валовая концентрация с одной значащей цифрой, то её следует рассматривать как целое число. Сказанное может относиться и к некоторым другим физическим величинам в условиях задач (например, масса, число молей, давление, объём и т.п.).

В заключении рассмотрим решение более сложной задачи, к которой приближенные правила 3 и 4 применимы лишь с ограничениями.