Коллоидная химия: Лабораторный практикум, страница 31

Другое полезное правило состоит в том, что если среди чисел, с которыми производятся действия, имеются такие, которые известны с много большей точностью чем остальные, эти числа можно округлять до такого числа значащих цифр (при умножении или делении) или такого числа цифр после разделительной запятой (при сложении или вычитании), которое на 2 или 1 больше соответствующих характеристик любого из остальных, менее точных сомножителей или слагаемых. Кроме того, число достоверных цифр в таких более точных числах можно не прини­мать во внимание при оценке числа достоверных цифр результата вычисления. Например, пусть требуется умножить число p на число 140. Согласно этому правилу, число p можно взять как 3.1416 или 3.142 и результат умножения представить тремя значащими цифрами (то есть, 440 или 4.40×102 и т.п.). Если требуется перемножить 14 и p, то p можно взять как 3.142 или 3.14 и результат представить двумя значащими цифрами, 44.

Фактически, в лабораторной практике правило значащих цифр соблюда­ются более или менее скрупулезно в зависимости от того, насколько ответственным рассматрива­ется данное измерение или вычисление. Из этого следует исходить при оформлении эксперимен­тальных результатов. Если от студента требуется в учебных целях правильно представить резуль­таты в лабораторном журнале, а среди экспериментальных данных есть числа с сомнительным числом достоверных цифр, то рекомендуется иметь в виду, что большинство рутинных измерений в учебной лаборатории производятся с относительной погрешностью приблизительно 0.01 в до­лях единицы (иначе говоря, 1 %). Например, если на колбе с раствором указана концентрация 1 г/л и это значение приходится использовать в вычислениях, то разумно рассматривать это число как 1.00 г/л, соответственно обычной относительной погрешности ~1 % при рутинном приготов­лении растворов.

Другая актуальная проблема, с которой приходится сталкиваться студенту в вычислитель­ной практике – форма записи чисел в таблицах и по осям графиков.

Таблица изображает два или более набора чисел, которые находятся в некотором соответ­ствии между собой. Например, это могут быть значения аргумента х и соответствующие им зна­чения функции y. Наборы чисел обычно представляют в столбцах таблицы, а соответствие между ними ищется в строках. Иногда поступают наоборот – наборы представляют в строках, а соответ­ствие приходится искать по столбцам. Другая условность касается компактности представления чисел.

Подпись: Таблица П1.2а
x	y
1	0.00325
2	0.0160
3	0.084

Таблица П1.2б
x	 

1	0.325
2	1.60
3	8.4

Форма записи чисел в точных науках несколько отличается от той, которая принята в торговле, бухгалтерском деле или средствах массовой информации. Здесь является обычным, когда первая ненулевая цифра стоит в первом десятичном разряде перед разделительной запятой. Например, для числа 586018 обычной записью является 5.86018×105 (но не 58.6018×104, 0.586018×106 и т.д.). Исключение делается для чисел, первая ненулевая цифра которых при обычной записи отстоит только на один или два десятичных разряда от запятой, таких как 0.253, 12.5 и т.п., вероятно потому что запись 2.53×10–1 или 1.25×101 не является более компактной или удобной, чем обычная. Это относится к отдельным числам. В таблицах, однако, мы стремимся к компактной записи целого набора чисел, а не отдельных чисел, что приводит к некоторым особенностям. Пусть, например, значениям х = 1, 2, 3 отвечают значения у = 0.00325, 0.0160 и 0.084, как показано в таблице П1.2 а. Общеприня­тый подход заключается в том, что числа "у" должны быть записаны с минимальным числом незначащих цифр и с одинаковым множителем 10n. То есть, значения у должны быть представлены как 0.325×10–2, 1.60×10–2, и 8.4×10–2, причем множитель 10–2 выносится в заголовок столбца у, как показано в таблице П1.2 б. Чтобы установить из такой таблицы значение у, соответствующее некоторому х, необходимо в уме проде­лать вычисление: . Например, значению х = 2 в таб­лице П1.2б отвечает значение = 1.60, откуда у = 1.60 или 0.0160. (Аналогичная форма записи используется при обозначении величин, откладываемых по осям графиков).