Слайд 2
Практикой обработки результатов измерительных экспериментов выработаны правила округления
результатов, которые по соглашению признаются и применяются при выполнении
любых измерений. Погрешность результата измерения физической величины должна давать представление о том, какие цифры в его числовом значении являются сомнительными. Поэтому числовое значение результата измерения должно быть представлено так, чтобы оно оканчивалось десятичным знаком того же разряда, что и значение его погрешности. Большее число разрядов не имеет смысла, так как не уменьшает неопределенность результата, а меньшее, которое может быть получено путем округления, увеличивает неопределенность. Поэтому погрешность результата измерения нецелесообразно выражать большим числом цифр. Достаточно ограничиться одной значащей цифрой или двумя, если вторая цифра 5. Две значащие цифры используются только при определении погрешности ответственных точных измерений [1].
Слайд 3
ГОСТ Р 8.736-2011
Основным документом, которым руководствуются при оформлении
технической документации, является ГОСТ Р 8.736-2011 НАЦИОНАЛЬНЫЙ СТАНДАРТ РОССИЙСКОЙ
ФЕДЕРАЦИИ. ИЗМЕРЕНИЯ ПРЯМЫЕ МНОГОКРАТНЫЕ. Методы обработки результатов измерений. Основные положения.
Слайд 4
Правила округления при обработке результатов измерений (Е.1 –
Е.2)
Е.1 Точность результатов измерений и точность вычислений при обработке результатов
измерений должны быть согласованы с требуемой точностью получаемой оценки измеряемой величины.
Е.2 Погрешность оценки измеряемой величины следует выражать не более чем двумя значащими цифрами.
Две значащие цифры в погрешности оценки измеряемой величины сохраняют:
- при точных измерениях;
- если первая значащая цифра не более трех.
Слайд 5
Правила округления при обработке результатов измерений (Е.3 –
Е.5)
Е.3 Число цифр в промежуточных вычислениях при обработке результатов измерений
должно быть на две больше, чем в окончательном результате.
Е.4 Погрешность при промежуточных вычислениях должна быть выражена не более чем тремя значащими цифрами.
Е.5 Сохраняемую значащую цифру в погрешности оценки измеряемой величины при округлении увеличивают на единицу, если отбрасываемая цифра неуказываемого младшего разряда больше либо равна пяти, и не изменяют, если она меньше пяти.
Слайд 6
Пример №1 (Правила записи чисел по СТ СЭВ
543 - 77)
1. Значащие цифры данного числа - все
цифры от первой слева, не равной нулю, до последней справа. При этом нули, следующие из множителя 10, не учитывают.
Примеры:
а) Число 12,0 имеет три значащие цифры.
б) Число 30 имеет две значащие цифры.
в) Число 120 . 10 имеет три значащие цифры.
г) 0,514 . 10 имеет три значащие цифры.
д) 0,0056 имеет две значащие цифры.
Слайд 7
Примеры №2-3
2. Если необходимо указать, что число является
точным, после числа указывают слово "точно" или последнюю значащую
цифру печатают жирным шрифтом. Например, в печатном тексте: 1 кВт . ч = 3600 Дж (точно).
3. Различают записи приближенных чисел по количеству значащих цифр.
Примеры.
а) Различают числа 2,4 и 2,40. Запись 2,4 означает, что верны только целые и десятые доли, истинное значение числа может быть, например, 2,43 и 2,38. Запись 2,40 означает, что верны и сотые доли: истинное значение числа может быть 2,403 и 2,398, но не 2,41 и не 2,382.
б) Запись 382 означает, что все цифры верны: если за последнюю цифру ручаться нельзя, то число должно быть записано 3,8 * 100.
в) Если в числе 4720 верны лишь две первые цифры, оно должно быть записано 47 * 100 или 4,7 * 1000.
Слайд 8
Пример №4
4. Число, для которого указывают допустимое отклонение,
должно иметь последнюю значащую цифру того же разряда, как
и последняя значащая цифра отклонения.
Примеры.
а) Правильно: 17,0 + 0,2. Неправильно: 17 + 0,2 или 17,00 + 0,2.
б) Правильно: 12,13 + 0,17. Неправильно: 12,13 + 0,2.
в) Правильно: 46,40 + 0,15. Неправильно: 46,4 + 0,15 или 46,402 + 0,15.
г) Правильно: (73 ± 6) c. Неправильно: (73,26 ± 5,81) c
д) Правильно: (15,0 ± 03) г. Неправильно: (15,085 ± 0,318) г
е) Правильно: (1,63 ± 0,6)•10-19 Кл. Неправильно: (1,634•10-19 ± 5,56•10-21) Кл.
Слайд 9
Примеры №5-6
5. Числовые значения величины и её погрешности
(отклонения) целесообразно записывать с указанием одной и той же
единицы величины.
Например: (80,555 + 0,002) кг.
6. Интервалы между числовыми значениями величин целесообразно записывать:
от 60 до 100, свыше 120 до 150.
Слайд 10
Примеры округления
Округление числа 12,23 до трех значащих цифр
дает 12,2.
Округление числа 565,46 до трех значащих цифр дает
565.
Округление числа 0,145 до двух цифр дает 0,15.
Округление числа 0,156 до двух значащих цифр дает 0,16.
Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252) дает 0,3 .
Округление числа 23456 до двух значащих цифр дает 23* 10³ [2].