Правила округления чисел, страница 3

Рассмотрим комбинированное применение правил 3 и 4.

Пример 3. Для реакции … при температуре Т = 300 К найден тепловой эффект DН = -103.90 кДж/моль. Вычислить энергию Гиббса DG, если известно, что энтропия реакции при этой температуре составляет DS = 269.09 Дж/(моль×К)

Очевидно, все величины в условии задачи относятся к классу бесконечных десятичных дробей, представленных приближенно. Поэтому при вычислении необходимо учитывать погрешности всех трёх величин.

Энергия Гиббса вычисляется по уравнению DG = DН - ТDS = -103.90×103 - 300×269.09. По правилу 3 произведение 300×269.09 = 80727 следует округлить до трёх значащих цифр, 80.7×103. По правилу 4 результат сложения -103.90×103 - 80.7×103 = -184.60×103 следует округлить до одной цифры после разделительной точки. Таким образом, окончательный ответ должен иметь вид DG = -184.6 кДж/моль.

Иногда при решении задачи приходится использовать константы, которые являются бесконечными десятичными дробями и известны с очень большой точностью. Некоторые из них могут находиться в памяти калькулятора (в калькуляторах всегда есть числа p и е) и их целесообразно использовать с той точностью, какую позволяет калькулятор. Например, при вычислении длины окружности pd (d – диаметр) не следует вводить приближённое значение p с клавиатуры. Проще и правильней вызвать это число из памяти калькулятора, нажав клавишу  p . Другие константы могут не быть в памяти калькулятора, например такие как константа Больцмана kB и другие*. Эти константы приходится вводить с клавиатуры и при этом решать, сколько значащих цифр уместно ввести. В этом случае естественным является правило, что точность представления константы должна быть такой, чтобы она не огрубляла результат вычисления. Поясним это следующим примером.

Пример 4. Вычислить объём, который занимает один моль газа N2 при температуре Т = 315 К с давлением р = 1.013×105 Па. Принять, что газ является идеальным.

Решение следует из уравнения состояния идеального газа:

где R = 8.31447 Дж/(моль×К) – газовая постоянная. Разумеется, можно использовать при вычислении все известные цифры этой константы, но можно и округлить её так, что это не повлияет на результат вычисления. По правилу 3 можно оставить минимум три значащие цифры в ней, потому что другое, менее точное число в этой формуле, 315, представлено тремя значащими цифрами. Если округлить до двух или одной цифры, то в результат вычисления будет произвольно внесена большая погрешность, чем та, которую подразумевают исходные данные.

Правила 3 и 4, однако, являются приближенными и иногда могут недооценивать или переоценивать число верных цифр результата. Поэтому при вычислениях с константами принято округлять их не до минимального числа значащих цифр, которое следует из этих правил, а на одну или две цифры больше. Именно, в примере 4 константу R следует, не задумываясь, взять как 8.315 (хотя фактически взять 8.31 в данном примере так же достаточно). Это можно суммировать следующим образом:

(Правило 5) Если среди чисел, над которыми производятся действия, имеются такие, которые известны с много большей точностью чем остальные, эти числа можно округлять до такого числа значащих цифр (при умножении и делении) или такого числа цифр после разделительной точки (при сложении и вычитании), которое на 1 или 2 больше соответствующих характеристик остальных, менее точных сомножителей или слагаемых.

Правила 3 и 4 распространяются только на приближенные числа. Однако в уравнениях физической химии встречаются так же точные числа, к которым эти правила не применимы. Чтобы правильно "угадать" какие числа в формуле являются точными и какие приближенными, необходимо знать свойства физических величин, входящих в формулу. Эти знания приобретаются при изучении теории, в частности того, как данное уравнение "выводится" (если оно теоретическое). Единственное общее руководство, которое можно дать в этом отношении, заключается в следующем.