Статистическая мера того, насколько значения расходятся от среднего
Пример выборок из двух популяций с одинаковым средним значением, но с разными дисперсиями. Красная совокупность имеет среднее значение 100 и дисперсию 100 (SD = 10), в то время как синяя совокупность имеет среднее значение 100 и дисперсию 2500 (SD = 50).
В теория вероятности и статистика, отклонение это ожидание квадрата отклонение из случайная переменная из его иметь в виду. Неформально он измеряет, насколько набор чисел отличается от их среднего значения. Дисперсия играет центральную роль в статистике, и некоторые идеи, которые ее используют, включают: описательная статистика, статистические выводы, проверка гипотезы, степень соответствия, и Отбор проб Монте-Карло. Дисперсия - важный инструмент в науке, где статистический анализ данных является обычным явлением. Дисперсия - это квадрат стандартное отклонение, второй центральный момент из распределение, а ковариация случайной величины с самой собой, и она часто представлена , , или же .
Определение
Дисперсия случайной величины это ожидаемое значение квадрата отклонения от иметь в виду из , :
Это определение охватывает случайные величины, которые генерируются процессами, которые дискретный, непрерывный, ни один, или смешанные. Дисперсию также можно рассматривать как ковариацию случайной величины с самой собой:
Дисперсия также эквивалентна второму кумулянт распределения вероятностей, которое порождает . Дисперсия обычно обозначается как , , или просто (произносится "сигма в квадрате "). Выражение для дисперсии может быть расширено следующим образом:
Другими словами, дисперсия Икс равно среднему квадрату Икс минус квадрат среднего Икс. Это уравнение не следует использовать для вычислений с использованием арифметика с плавающей запятой, потому что он страдает от катастрофическая отмена если два компонента уравнения схожи по величине. Для других численно стабильных альтернатив см. Алгоритмы расчета дисперсии.
Дискретная случайная величина
Если генератор случайной величины является дискретный с функция массы вероятности , тогда
или эквивалентно,
куда ожидаемое значение. То есть,
(Когда такая дискретная взвешенная дисперсия определяется весами, сумма которых не равна 1, то делится на сумму весов.)
Дисперсия коллекции равновероятные значения могут быть записаны как
куда - среднее значение. То есть,
Дисперсия набора равновероятные значения могут быть эквивалентно выражены без прямой ссылки на среднее значение в виде квадратов отклонений всех точек друг от друга:[1]
Абсолютно непрерывная случайная величина
Если случайная величина имеет функция плотности вероятности , и соответствующий кумулятивная функция распределения, тогда
или эквивалентно,
куда ожидаемое значение данный
В этих формулах интегралы по и находятся Лебег и Лебег – Стилтьес интегралы соответственно.
Если функция является Интегрируемый по Риману на каждом конечном интервале тогда
где интеграл - это несобственный интеграл Римана.
Примеры
Экспоненциальное распределение
В экспоненциальное распределение с параметром λ является непрерывным распределением, функция плотности вероятности дан кем-то
на интервале [0, ∞). Его среднее значение можно показать как
С помощью интеграция по частям и используя уже рассчитанное ожидаемое значение, мы имеем:
Таким образом, дисперсия Икс дан кем-то
Честная смерть
Ярмарка шестигранный кубик можно моделировать как дискретную случайную величину, Иксс исходами от 1 до 6, каждый с равной вероятностью 1/6. Ожидаемая стоимость Икс является Следовательно, дисперсия Икс является
Общая формула дисперсии результата, Икс, из п-сторонний умереть это
Обычно используемые распределения вероятностей
В следующей таблице перечислены дисперсии для некоторых часто используемых распределений вероятностей.
Название вероятностного распределения | Функция распределения вероятностей | Иметь в виду | Дисперсия |
---|
Биномиальное распределение | | | |
---|
Геометрическое распределение | | | |
---|
Нормальное распределение | | | |
---|
Равномерное распределение (непрерывное) | | | |
---|
Экспоненциальное распределение | | | |
---|
распределение Пуассона | | | |
---|
Характеристики
Основные свойства
Дисперсия неотрицательна, потому что квадраты положительные или нулевые:
Дисперсия константы равна нулю.
И наоборот, если дисперсия случайной величины равна 0, то она равна почти наверняка константа. То есть всегда имеет одно и то же значение:
Дисперсия инвариантный относительно изменений в параметр местоположения. То есть, если ко всем значениям переменной добавить константу, дисперсия не изменится:
Если все значения масштабируются константой, дисперсия масштабируется квадратом этой константы:
Дисперсия суммы двух случайных величин определяется выражением
куда это ковариация.
В общем, на сумму случайные переменные , дисперсия становится:
Эти результаты приводят к дисперсии линейная комбинация в качестве:
Если случайные величины такие, что
тогда их называют некоррелированный. Из приведенного ранее выражения сразу следует, что если случайные величины некоррелированы, то дисперсия их суммы равна сумме их дисперсий, или, выражаясь символически:
Поскольку независимые случайные величины всегда некоррелированы (см. Ковариация § Некоррелированность и независимость), приведенное выше уравнение выполняется, в частности, когда случайные величины независимы. Таким образом, независимость достаточна, но не обязательна, чтобы дисперсия суммы равнялась сумме дисперсий.
Проблемы конечности
Если распределение не имеет конечного ожидаемого значения, как в случае Распределение Коши, то и дисперсия не может быть конечной. Однако некоторые распределения могут не иметь конечной дисперсии, несмотря на конечное ожидаемое значение. Примером является Распределение Парето чей индекс удовлетворяет
Сумма некоррелированных переменных (формула Биенайме)
Одна из причин использования дисперсии вместо других мер дисперсии заключается в том, что дисперсия суммы (или разницы) некоррелированный случайные величины - это сумма их дисперсий:
Это утверждение называется Bienaymé формула[2] и был открыт в 1853 году.[3][4] Часто делается с более сильным условием, что переменные независимый, но быть некоррелированным достаточно. Итак, если все переменные имеют одинаковую дисперсию σ2, то, поскольку деление на п является линейным преобразованием, из этой формулы сразу следует, что дисперсия их среднего равна
То есть дисперсия среднего уменьшается, когда п увеличивается. Эта формула дисперсии среднего используется при определении стандартная ошибка выборочного среднего, которое используется в Центральная предельная теорема.
Чтобы доказать исходное утверждение, достаточно показать, что
Общий результат следует тогда по индукции. Начиная с определения,
Используя линейность оператор ожидания и предположение о независимости (или некоррелированности) Икс и Y, это дополнительно упрощается следующим образом:
Сумма коррелированных переменных
С корреляцией и фиксированным размером выборки
В общем, дисперсия суммы п переменных - это сумма их ковариации:
(Примечание: второе равенство вытекает из того факта, что Cov (Икся,Икся) = Вар (Икся).)
Здесь, Cov (⋅, ⋅) это ковариация, который равен нулю для независимых случайных величин (если он существует). Формула утверждает, что дисперсия суммы равна сумме всех элементов в ковариационной матрице компонентов. Следующее выражение эквивалентно утверждает, что дисперсия суммы - это сумма диагонали ковариационной матрицы плюс двойная сумма ее верхних треугольных элементов (или ее нижних треугольных элементов); это подчеркивает, что ковариационная матрица симметрична. Эта формула используется в теории Альфа Кронбаха в классическая теория тестирования.
Итак, если переменные имеют одинаковую дисперсию σ2 и средний корреляция различных переменных ρ, то дисперсия их среднего равна
Это означает, что дисперсия среднего увеличивается с увеличением среднего значения корреляций. Другими словами, дополнительные коррелированные наблюдения не так эффективны, как дополнительные независимые наблюдения, для уменьшения неопределенность среднего. Более того, если переменные имеют единичную дисперсию, например, если они стандартизированы, то это упрощается до
Эта формула используется в Формула предсказания Спирмена – Брауна классической теории тестирования. Это сходится к ρ если п стремится к бесконечности при условии, что средняя корреляция остается постоянной или также сходится. Итак, для дисперсии среднего значения стандартизованных переменных с равной корреляцией или сходящейся средней корреляцией мы имеем
Следовательно, дисперсия среднего значения большого числа стандартизованных переменных приблизительно равна их средней корреляции. Это проясняет, что выборочное среднее коррелированных переменных обычно не сходится со средним генеральным, даже если закон больших чисел заявляет, что выборочное среднее будет сходиться для независимых переменных.
I.i.d. со случайным размером выборки
Бывают случаи, когда образец берут, не зная заранее, сколько наблюдений будет приемлемым по тому или иному критерию. В таких случаях размер выборки N случайная величина, вариация которой добавляет к вариации Икс, такое что,
- Вар (∑Икс) = E (N) Вар (Икс) + Var (N) E2(Икс).[5]
Если N имеет распределение Пуассона, то E (N) = Вар (N) с оценщиком N = п. Итак, оценка Var (∑Икс) становится нс2Икс + пИкс2 давая
- стандартная ошибка(Икс) = √[(S2Икс + Икс2)/п].
Матричная запись дисперсии линейной комбинации
Определять как вектор-столбец случайные переменные , и как вектор-столбец скаляры . Следовательно, это линейная комбинация этих случайных величин, где обозначает транспонировать из . Также позвольте быть ковариационная матрица из . Дисперсия тогда дается:[6]
Это означает, что дисперсия среднего может быть записана как (с вектором-столбцом из единиц)
Взвешенная сумма переменных
Свойство масштабирования и формула Биенайме, а также свойство ковариация Cov (aX, к) = ab Cov (Икс, Y) вместе подразумевают, что
Это означает, что во взвешенной сумме переменных переменная с наибольшим весом будет иметь непропорционально большой вес в дисперсии итога. Например, если Икс и Y не коррелированы, а вес Икс в два раза больше веса Y, то вес дисперсии Икс будет в четыре раза больше дисперсии Y.
Выражение выше может быть расширено до взвешенной суммы нескольких переменных:
Произведение независимых переменных
Если две переменные X и Y равны независимый, дисперсия их продукта определяется выражением[7]
Эквивалентно, используя основные свойства ожидания, он задается
Произведение статистически зависимых переменных
В общем, если две переменные статистически зависимы, дисперсия их продукта определяется следующим образом:
Разложение
Общая формула для разложения дисперсии или закон полной дисперсии это: Если и две случайные величины, а дисперсия существует, тогда
В условное ожидание из данный , а условная дисперсия можно понимать следующим образом. Учитывая любую конкретную ценность у случайной величиныY, есть условное ожидание учитывая событиеY = у. Это количество зависит от конкретного значенияу; это функция . Та же самая функция оценивается по случайной величине Y это условное ожидание
В частности, если дискретная случайная величина, принимающая возможные значения с соответствующими вероятностями , то в формуле для полной дисперсии первый член в правой части принимает вид
куда . Точно так же второй член в правой части становится
куда и . Таким образом, общая дисперсия определяется как
Аналогичная формула применяется в дисперсионный анализ, где соответствующая формула
здесь относится к среднему квадрату. В линейная регрессия анализа соответствующая формула
Это также может быть получено из аддитивности дисперсии, поскольку общая (наблюдаемая) оценка представляет собой сумму прогнозируемой оценки и оценки ошибки, где последние два не коррелируют.
Подобные разложения возможны для суммы квадратов отклонений (сумма квадратов, ):
Расчет из CDF
Дисперсия генеральной совокупности для неотрицательной случайной величины может быть выражена через кумулятивная функция распределения F с помощью
Это выражение можно использовать для вычисления дисперсии в ситуациях, когда CDF, но не плотность, можно удобно выразить.
Характеристика собственности
Второй момент случайной величины достигает минимального значения, когда берется примерно в первый момент (т.е. среднее значение) случайной величины, т. е. . Наоборот, если непрерывная функция удовлетворяет для всех случайных величин Икс, то он обязательно имеет вид , куда а > 0. То же верно и в многомерном случае.[8]
Меры измерения
В отличие от ожидаемого абсолютного отклонения, дисперсия переменной имеет единицы измерения, которые являются квадратом единиц самой переменной. Например, переменная, измеряемая в метрах, будет иметь отклонение в метрах в квадрате. По этой причине описание наборов данных через их стандартное отклонение или же среднеквадратичное отклонение часто предпочтительнее использования дисперсии. В примере с игральными костями стандартное отклонение равно √2.9 ≈ 1.7, немного больше ожидаемого абсолютного отклонения 1,5.
Стандартное отклонение и ожидаемое абсолютное отклонение могут использоваться как индикатор «разброса» распределения. Стандартное отклонение более поддается алгебраическим манипуляциям, чем ожидаемое абсолютное отклонение, и вместе с дисперсией и ее обобщением ковариация, часто используется в теоретической статистике; однако ожидаемое абсолютное отклонение обычно больше крепкий поскольку он менее чувствителен к выбросы вытекающие из аномалии измерений или неоправданно распределение с тяжелым хвостом.
Аппроксимация дисперсии функции
В дельта-метод использует второй порядок Разложения Тейлора для аппроксимации дисперсии функции одной или нескольких случайных величин: см. Разложения Тейлора для моментов функций случайных величин. Например, приблизительная дисперсия функции одной переменной определяется выражением
при условии, что ж дважды дифференцируема и что среднее и дисперсия Икс конечны.
Дисперсия населения и дисперсия выборки
Реальные наблюдения, такие как измерения вчерашнего дождя в течение дня, обычно не могут быть полным набором всех возможных наблюдений, которые можно было бы сделать. Таким образом, дисперсия, вычисленная из конечного набора, в общем случае не будет соответствовать дисперсии, которая была бы рассчитана из полной совокупности возможных наблюдений. Это означает, что один оценки среднее значение и дисперсия, которые были бы рассчитаны на основе всеведущего набора наблюдений с использованием оценщик уравнение. Оценка является функцией образец из п наблюдения взяты без предвзятости наблюдений из всего численность населения потенциальных наблюдений. В этом примере этот образец будет набором фактических измерений вчерашних осадков с помощью доступных дождемеров в интересующей географии.
Простейшие оценки среднего и дисперсии генеральной совокупности - это просто среднее значение и дисперсия выборки, т.е. выборочное среднее и (нескорректированная) дисперсия выборки - это последовательные оценки (они сходятся к правильному значению по мере увеличения количества выборок), но могут быть улучшены. Оценка дисперсии совокупности путем взятия дисперсии выборки в целом близка к оптимальной, но ее можно улучшить двумя способами. Проще говоря, дисперсия выборки вычисляется как среднее значение квадратичные отклонения о (выборке) среднего, путем деления на п. Однако при использовании значений, отличных от п улучшает оценщик различными способами. Четыре общих значения знаменателя: п, п − 1, п + 1, и п − 1.5: п является самым простым (дисперсия совокупности выборки), п - 1 устраняет предвзятость, п + 1 минимизирует среднеквадратичная ошибка для нормального распределения и п - 1.5 в основном устраняет предвзятость объективная оценка стандартного отклонения для нормального распределения.
Во-первых, если всеведущее среднее неизвестно (и вычисляется как выборочное среднее), то дисперсия выборки является предвзятый оценщик: он занижает дисперсию в (п − 1) / п; корректируя этим фактором (делением на п - 1 вместо п) называется Поправка Бесселя. Результирующая оценка несмещена и называется (исправленная) выборочная дисперсия или же объективная дисперсия выборки. Например, когда п = 1, дисперсия отдельного наблюдения относительно выборочного среднего (самого), очевидно, равна нулю независимо от дисперсии генеральной совокупности. Если среднее значение определяется каким-либо другим способом, а не на основе тех же выборок, которые использовались для оценки дисперсии, тогда эта систематическая ошибка не возникает, и дисперсию можно безопасно оценить как дисперсию выборок относительно (независимо известного) среднего.
Во-вторых, дисперсия выборки обычно не минимизирует среднеквадратичная ошибка между дисперсией выборки и дисперсией генеральной совокупности. Исправление смещения часто ухудшает ситуацию: всегда можно выбрать масштабный коэффициент, который работает лучше, чем скорректированная дисперсия выборки, хотя оптимальный масштабный коэффициент зависит от избыточный эксцесс населения (см. среднеквадратическая ошибка: дисперсия) и вносит предвзятость. Это всегда заключается в уменьшении несмещенной оценки (делении на число больше, чем п - 1) и представляет собой простой пример оценщик усадки: один «сжимает» объективную оценку до нуля. Для нормального распределения, разделив на п + 1 (вместо п - 1 или п) минимизирует среднеквадратичную ошибку. Однако результирующая оценка смещена и известна как смещенная вариация выборки.
Дисперсия населения
В целом дисперсия населения из конечный численность населения размера N с ценностями Икся дан кем-то
где среднее значение по совокупности
Дисперсию совокупности также можно рассчитать с помощью
Это правда, потому что
Дисперсия совокупности соответствует дисперсии генерирующего распределения вероятностей. В этом смысле понятие совокупности может быть расширено до непрерывных случайных величин с бесконечной совокупностью.
Выборочная дисперсия
Во многих практических ситуациях истинная дисперсия популяции неизвестна. априори и должно быть как-то вычислено. При работе с чрезвычайно большими популяциями невозможно подсчитать каждый объект в популяции, поэтому вычисления должны выполняться на образец населения.[9] Дисперсия выборки также может применяться к оценке дисперсии непрерывного распределения по выборке этого распределения.
Мы берем образец с заменой из п значения Y1, ..., Yп от населения, где п < Nи оцените дисперсию на основе этой выборки.[10] Непосредственный анализ дисперсии данных выборки дает среднее значение квадратичные отклонения:
Здесь, обозначает выборочное среднее:
Поскольку Yя выбираются случайным образом, оба и случайные величины. Их ожидаемые значения можно оценить путем усреднения по ансамблю всех возможных выборок {Yя} размера п от населения. За это дает:
Следовательно дает оценку дисперсии населения, которая смещена на коэффициент . По этой причине, называется смещенная дисперсия выборки. Исправление этого смещения дает несмещенная дисперсия выборки, обозначенный :
Любой оценщик можно просто назвать выборочная дисперсия когда версию можно определить по контексту. То же доказательство применимо и к выборкам, взятым из непрерывного распределения вероятностей.
Использование термина п - 1 называется Поправка Бесселя, и он также используется в выборочная ковариация и стандартное отклонение выборки (квадратный корень из дисперсии). Квадратный корень - это вогнутая функция и, таким образом, вносит отрицательный сдвиг (по Неравенство Дженсена), который зависит от распределения, и, таким образом, скорректированное стандартное отклонение выборки (с использованием поправки Бесселя) смещено. В объективная оценка стандартного отклонения технически сложная проблема, хотя для нормального распределения используется термин п - 1,5 дает почти беспристрастную оценку.
Несмещенная дисперсия выборки - это U-статистика для функции ƒ(у1, у2) = (у1 − у2)2/ 2, что означает, что он получается путем усреднения статистики из двух выборок по двухэлементным подмножествам генеральной совокупности.
Распределение выборочной дисперсии
Распределение и кумулятивное распределение S2/ σ2, для различных значений ν = п - 1, когда уя независимы, нормально распределены.
Являясь функцией случайные переменныедисперсия выборки сама по себе является случайной величиной, и ее распределение естественно изучить. В случае, если Yя независимые наблюдения от нормальное распределение, Теорема Кохрана показывает, что s2 следует масштабному распределение хи-квадрат:[11]
Как прямое следствие, следует, что
и[12]
Если Yя независимы и одинаково распределены, но не обязательно нормально распределены, то[13]
куда κ это эксцесс распределения и μ4 это четвертый центральный момент.
Если условия закон больших чисел придерживаться квадрата наблюдений, s2 это согласованная оценка изσ2. Действительно, видно, что дисперсия оценки асимптотически стремится к нулю. Асимптотически эквивалентная формула была дана в Kenney and Keeping (1951: 164), Rose and Smith (2002: 264) и Weisstein (n.d.).[14][15][16]
Неравенство Самуэльсона
Неравенство Самуэльсона - это результат, который устанавливает границы значений, которые могут принимать отдельные наблюдения в выборке, при условии, что среднее значение выборки и (смещенная) дисперсия были рассчитаны.[17] Ценности должны находиться в пределах
Связь с гармоническими и арифметическими средствами
Было показано[18] что за образец {уя} положительных действительных чисел,
куда уМаксимум - максимум выборки, А - среднее арифметическое, ЧАС это гармоническое среднее образца и - (смещенная) дисперсия выборки.
Эта оценка была улучшена, и известно, что дисперсия ограничена
куда умин - минимум выборки.[19]
Тесты на равенство дисперсий
Проверка на равенство двух или более отклонений затруднительна. В F тест и тесты хи-квадрат оба являются ненормальными и не рекомендуются для этой цели.
Было предложено несколько непараметрических тестов: они включают тест Бартона – Дэвида – Ансари – Фрейнда – Зигеля – Тьюки, Каплон тест, Тест настроения, то Клотца тест и Сухатме тест. Тест Сухатме применяется к двум вариантам и требует, чтобы оба медианы быть известным и равным нулю. Тесты Настроение, Клотца, Капона и Бартона – Дэвида – Ансари – Фройнда – Зигеля – Тьюки также применимы к двум дисперсиям. Они позволяют неизвестной медиане, но требуют, чтобы две медианы были равны.
В Тест Лемана является параметрическим тестом двух дисперсий. Известно несколько вариантов этого теста.Другие тесты равенства дисперсий включают Коробочный тест, то Тест Бокса – Андерсона и Тест Моисея.
Методы повторной выборки, которые включают бутстрап и складной нож, может использоваться для проверки равенства дисперсий.
История
Период, термин отклонение был впервые представлен Рональд Фишер в его статье 1918 года Корреляция между родственниками на основе предположения о менделевской наследственности:[20]
Большой объем доступной статистики показывает нам, что отклонения человеческое измерение очень внимательно следите за Нормальный закон ошибок, и, следовательно, что изменчивость может быть равномерно измерена стандартное отклонение соответствующий квадратный корень из среднеквадратичная ошибка. Когда есть две независимые причины изменчивости, способные привести к однородному распределению популяции со стандартными отклонениями и , обнаружено, что распределение, когда обе причины действуют вместе, имеет стандартное отклонение . Поэтому при анализе причин изменчивости желательно иметь дело с квадратом стандартного отклонения в качестве меры изменчивости. Назовем эту величину Дисперсией ...
Геометрическая визуализация дисперсии произвольного распределения (2, 4, 4, 4, 5, 5, 7, 9):
- Построено частотное распределение.
- Центроид распределения дает среднее значение.
- Для каждого значения формируется квадрат со сторонами, равными разнице каждого значения от среднего.
- Объединяя квадраты в прямоугольник с одной стороной, равной количеству значений, п, приводит к тому, что другой стороной является дисперсия распределения, σ2.
Момент инерции
Дисперсия распределения вероятностей аналогична момент инерции в классическая механика соответствующего распределения массы вдоль линии относительно вращения вокруг ее центра масс.[нужна цитата] Именно из-за этой аналогии такие вещи, как дисперсия, называются моменты из распределения вероятностей.[нужна цитата] Ковариационная матрица связана с тензор момента инерции для многомерных распределений. Момент инерции облака п точек с ковариационной матрицей дан кем-то[нужна цитата]
Эта разница между моментом инерции в физике и статистике очевидна для точек, собранных вдоль линии. Предположим, что многие точки близки к Икс оси и распределены по ней. Ковариационная матрица может выглядеть как