2.4 Оценка погрешности

В работе для анализа переключаемой поляризации был использован пакет системы алгебраической логики MathcadM, позволяющий оперировать символьными вычислениями. Для оценки погрешности полученных данных был рассчитан коэффициент корреляции.

где А, В - массивы действительных или комплексных чисел, corr(A, В) - функция, возвращающая коэффициент корреляции Пирсона.

Здесь cvar(A, В) возвращает ковариацию данных элементов А и В, mean(A) - среднеарифметическое значение в массиве данных, Функция Stdev(A) - возвращает квадратный корень из дисперсии (среднеквадратическое отклонение).

При оценке значений теплоемкости, на основе измерения мощности потерь, применялся научный пакет для анализа числовых данных и построения графиков OriginPro. C помощью данного программного обеспечения был получен коэффициент наклона прямой методом линейной регрессии, а также соответствующая стандартная ошибка.

Погрешность при проведении эксперимента учитывалась исходя из имеющихся технических характеристик измерительной и другой аппаратуры. Согласно технической спецификации, основная погрешность для генератора сигналов специальной формы Г6-28 составляет ± 2 % от максимальной частоты поддиапазона в интервале частот от IOO Гц - 1 кГц. Дополнительная погрешность частоты при изменении окружающей среды на 10 ⁰C не превышает ±0.5 % от максимальной частоты поддиапазона в интервале частот 0.1Гц - 100 кГц. Неравномерность амплитуды выходного

синусоидального сигнала не превышает ± 2.5 % в диапазоне частот 0.001 Гц - 100 кГц. Коэффициент гармоник синусоидального сигнала не превышает 1 % в диапазоне частот 20 Гц - 10 кГц. Длительность фронта и среза (каждого в

отдельности) прямоугольного сигнала не превышает 60 нс, а также выбросы на вершинах прямоугольного сигнала не превышают 5%.

Осциллограф C1-65 имеет основную погрешность измерения амплитуды синусоидальных сигналов в диапазоне частот до 7 МГц и амплитуды импульсных сигналов от 15 мВ до 60 В (диапазон входных напряжений без выносного делителя), не превышающую ± 5 % в нормальных условиях и погрешность измерения ± 6 % в рабочих условиях. Толщина линии луча, определяемая размытостью и расфокусировкой, не превышает 0.8 мм. Смещение луча из-за дрейфа усилителя: не превышает 5 мВ (1 деление) в течение 30 минут работы; при изменении напряжения питания на ± 10 % от номинального значения - не более 2.5 мВ (0.5 деления); за 1 минуту не более 1.0 мВ (0.2 деления).

Согласно технической документации высоковольтного усилителя TREK 677В дрейф с течением времени не превышает 1 %/час. Температурный дрейф не превышает 3.5 %∕⁰C. Выходной шум не превышает 100 мВ от среднеквадратического (действующего) значения напряжения.

Точность цифрового мультиметра Uni-T UT803 в режиме измерения переменного напряжения составляет ±0.6 % в диапазонах работы 600mV∕6V∕60 V/600V/ 1000V при частотах измеряемого напряжения от 40 Гц до 1 кГц. Для частот свыше 1 кГц погрешность составляет ± 3% для диапазона 60В, ± 3.5 % для диапазона 600В и ± 3% для 1000В. Разрешение составляет 0.01 В для 60 В, 0.1 В для 600 BnlB для 1000 В соответственно.