В противном случае оценка называется смещенной.

Разность М - .называется смещением оценки. Требование несмещенности означает, что выборочные значения _,_i оценок, полученные в результате повторения выборок, группируются около их математического ожидания, а не около оцениваемой величины .

Определение 3.5. Оценка величины называется робастной, если она устойчива по отношению к выбросам в статистических данных.

Определение 3.6. Оценка числовой характеристики или параметра распределения называется эффективной в рассматриваемом классе Т состоятельных и несмещенных оценок, если она имеет в этом классе минимальную дисперсию:

(3.5)

Определение 3.7. Из двух оценок и одной и той же числовой характеристики или параметра распределения в классе Т состоятельных и несмещенных оценок более эффективной считается та, дисперсия которой меньше.

Если имеет место неравенство D <D (3.6)

то - более эффективная оценка , чем .

Отношение D /D (3.7)

называется относительной эффективностью оценки относительно оценки , а отношение

(3.8)

называется эффективностью оценки в рассматриваемом классе оценок Т.

Пример 1.2. Для нормального распределения оценкой математического ожидания m могут служить выборочное среднее и выборочная медиана med в силу симметричности нормального распределения. Доказано, что (для любого n) и (при больших n). Следовательно, при больших n относительной эффективностью выборочной медианы относительно будет

Определение 3.8. Оценка параметра распределения называется асимптотически эффективной в классе Т состоятельных и несмещенных оценок, если существует предел

=1, . (3.9)

Асимптотически эффективные оценки дает метод максимального правдоподобия получения оценок, который рассматривается далее. В более общем случае, если отказаться от требования несмещенности оценки параметра , то в качестве меры разброса значений относительно вместо дисперсии обычно выбирается величина среднего квадрата ошибки, то есть второй момент вида . Тогда оценка называется эффективной в классе Т состоятельных оценок, если выполняется равенство

(3.10)

Отношение

(3.11)

называется эффективностью оценки в классе Т состоятельных оценок.

5. Основные свойства оценок.

Если мы определяем некоторый параметр a по результатам опыта, то его приближённое значение называют оценкой. Любая оценка, вычисляемая на основе экспериментальных данных, является функцией этих случайных величин и значит тоже случайная величина Например, для МО, как было показано выше, естественной оценкой является среднее арифметическое её наблюдённых значений:

(2.12)

Итак, любая оценка параметра является случайной величиной её закон распределения зависит от закона распределения Х и от вида функции , выражающей через , а значит и от числа опытов n. К оценке предъявляются требования обладания рядом свойств:

Состоятельность – оценка приближается при увеличении числа опытов (сходится по вероятности) к искомому параметру

Несмещённость – отсутствие систематической ошибки

Эффективность – наличие минимальной дисперсии по сравнению с другими На практике не всегда удаётся удовлетворить всем этим требованиям.

Определим и дисперсию Выше указывалось, что для среднее арифметическое (или статистическое среднее):

(2.13)

Состоятельность этой оценки следует из закона больших чисел, согласно которому при увеличении числа опытов она сходится по вероятности к МО случайной величины Х.

Несмещённость можно показать, найдя её математическое ожидание:

, (2.14)

т.е.оценка для является несмещённой.

Найдём дисперсию этой оценки:

. (2.15)

Эффективность оценки зависит от вида закона распределения Х, можно показать, что для нормально распределённой величины оценка для математического ожидания является и эффективной. Для дисперсии, на первый взгляд, наиболее естественной является статистическая дисперсия , т.е. среднее арифметическое квадратов отклонений значений от среднего:

(2.16)

Для проверки её состоятельности выразим её через статистический второй начальный момент, т.е. через среднее арифметическое квадратов наблюдённых значений:

(2.18)

Первый член в правой части – среднее арифметическое наблюдений случайной величины сходится по вероятности к её МО: Второй член сходится по вероятности к , вся величина по вероятности сходится к Значит оценка состоятельна.

Для проверки её несмещённости выполним следующее:

(2.19)

Так как статистическая дисперсия не зависит от того, где выбрать начало координат, выберем его в точке , т.е. отцентрируем все случайные величины Тогда

(2.20)

Найдём МО величины

(2.21)

Но и эта формула даёт:

(2.22)

Отсюда видно, что величина не является несмещённой оценкой для дисперсии , её МО не равно , а несколько меньше. Чтобы ликвидировать систематическую ошибку, достаточно ввести поправку, умножив на

Тогда для несмещённой оценки для дисперсии получим:

равную статистической дисперсии, умноженной на соответствующий коэффициент. При больших значениях этот множитель становится близким к единице и его можно не применять.

Окончательно, для приближённых оценок имеем:

(2.23)

Вместо последнего выражения часто удобно использовать:

(2.24)

Можно показать, что такой же поправочный множитель нужно вводить и при вычислении несмещённой оценки для ковариации двух случайных величин и

6. Оценка математического ожидания и дисперсии по выборке.

Предыдущая 1 2 3 456 7 8 Следующая