<<
>>

Округление чисел

Распространяется на точные и приближенные числа

Пример: 7,192 ž 7,19 ž 7,2

1681 ž 1,7.103

0,80214 ž 0,80

Точность округленных чисел уменьшается, так как добавляется еще погрешность, вносимая при округлении (которая может быть и больше и меньше первоначальной погрешности числа).

Округление погрешностей и результатов измерений:

При Р=0,95 погрешность округляют до одной значащей цифры.

Пример:

Исключение: если число содержит первую цифру 1, то сохраняется вторая сомнительная (значащая) цифра.

Относительная погрешность также округляется.

Правильно округленная абсолютная погрешность позволяет правильно округлить и записать результат измерения, (содержащий верные и одну (две) сомнительные значащие цифры).

Пример:

Число значащих цифр однозначно определяется погрешностью.

<< | >>
Источник: КОНСПЕКТ ЛЕКЦИЙ ПО МЕХАНИКЕ. 2016

Еще по теме Округление чисел: