Главная | Обратная связь

Правила округления и записи результатов измерений

Погрешность результата измерений позволяет определить те цифры результата, которые являются достоверными. Нецелесообразно удерживать в выражении для измеренного значения физической величины большое число цифр, так как цифры младших разрядов могут оказаться недостоверными.

Существуют определенные правила округления.

1. В выражении погрешности удерживается не более двух значащих цифр, причем последняя цифра обычно округляется до нуля или пяти. Две цифры следует обязательно удерживать в том случае, когда цифра старшего разряда менее 3.

2. Числовое значение результата измерения должно оканчиваться цифрой того же разряда, что и значение погрешности.

Пример. 235,732 + 0,15 округляется до 235,73 + 0,15, но не до 235,7 + 0,15.

При промежуточных вычислениях целесообразно, чтобы используемые числа содержали на одну значащую цифру больше, чем будет в окончательном результате. Это позволяет уменьшить погрешность от округления.

3. Если первая из отбрасываемых цифр (считая слева направо) меньше пяти, то остающиеся цифры не меняются.

Пример. 442,749 + 0,4 округляется до 442,7 + 0,4.

4. Если первая из отбрасываемых цифр больше или равна пяти, то последняя сохраняемая цифра увеличивается на единицу.

Пример. 37,268 + 0,5 округляется до 37,3 + 0,5; 37,253 + 0,5 округляется до 37,3 + 0,5.

5. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам.

Пример. Поэтапное округление результата измерения 220,46 + 4 дает на первом этапе 220,5 + 4 и на втором 221 + 4, в то время как правильный результат округления 220 + 4.

Особенно внимательно нужно относиться к записи результата измерения без указания погрешности (что в общем случае крайне нежелательно). В этом случае в записываемом числе оставляются только те цифры, за достоверность которых можно ручаться, т.е. все значащие цифры записанного числа должны быть достоверными. Значащими цифрами числа считаются все цифры от первой слева, не равной нулю, до последней записанной справа цифры, при этом нули, записанные в виде множителя , не учитываются.

При представлении окончательных результатов физических измерений принято записывать числовые значения в показательной (экспоненциальной) форме с запятой после первой значащей цифры.

Примеры. 300000 км/с = 3×10⁵ км/с,

0,00123 м =1,23 10 м