WikiDer > Оценка (статистика)

Score (statistics)

В статистика, то счет (или же информатор[1]) это градиент из функция логарифмического правдоподобия с уважением к вектор параметров. Оценка, оцениваемая в определенной точке вектора параметров, указывает крутизна функции логарифма правдоподобия и, следовательно, чувствительности к бесконечно малый изменяет значения параметров. Если функция логарифма правдоподобия непрерывный над пространство параметров, счет будет исчезнуть на местном максимум или минимум; этот факт используется в оценка максимального правдоподобия чтобы найти значения параметров, которые максимизируют функцию правдоподобия.

Поскольку оценка является функцией наблюдения которые подлежат ошибка выборки, он поддается статистика теста известный как оценка теста в котором параметр удерживается на определенном значении. Далее отношение двух функций правдоподобия оцениваемый при двух различных значениях параметра, можно понимать как определенный интеграл функции оценки.[2]

Определение

Оценка градиент (вектор частные производные) из , то натуральный логарифм из функция правдоподобия, относительно м-мерный вектор параметров .

Таким образом, дифференцирование дает вектор-строка, и указывает чувствительность правдоподобия (его производная, нормированная на его значение).

В более старой литературе[нужна цитата] «линейный счет» может относиться к счету относительно бесконечно малого перевода данной плотности. Это соглашение возникло из того времени, когда основным интересующим параметром было среднее или медианное значение распределения. В этом случае вероятность наблюдения определяется плотностью вида . "Линейная оценка" тогда определяется как

Характеристики

Иметь в виду

Хотя счет является функцией , это также зависит от наблюдений при котором оценивается функция правдоподобия, и ввиду случайного характера выборки можно взять ее ожидаемое значение над пространство образца. При определенных условиях регулярности функций плотности случайных величин[3][4] ожидаемое значение оценки, оцененное при истинном значении параметра , равно нулю. Чтобы увидеть это, перепишите функцию правдоподобия как функция плотности вероятности , и обозначим пространство образца . Потом:

Предполагаемые условия регулярности допускают замену производной и интеграла (см. Интегральное правило Лейбница), поэтому приведенное выше выражение можно переписать как

Приведенный выше результат стоит перефразировать словами: ожидаемое значение оценки равно нулю. Таким образом, если бы кто-то неоднократно брал выборку из некоторого распределения и многократно вычислял балл, то среднее значение баллов стремилось бы к нулю. асимптотически.

Дисперсия

В отклонение партитуры, может быть получено из приведенного выше выражения для ожидаемого значения.

Следовательно, дисперсия оценки равна отрицательному ожидаемому значению Матрица Гессе логарифмической вероятности.[5]

Последний известен как Информация Fisher и написано . Обратите внимание, что информация Фишера не является функцией какого-либо конкретного наблюдения, поскольку случайная величина был усреднен. Эта концепция информации полезна при сравнении двух методов наблюдения за некоторыми случайный процесс.

Примеры

Процесс Бернулли

Рассмотрите возможность наблюдения за первым п испытания Процесс Бернулли, и увидев это А из них успехи, а остальные B неудачи, где вероятность успехаθ.

Тогда вероятность является

так что оценка s является

Теперь мы можем проверить, что ожидание результата равно нулю. Отмечая, что ожидание А является и ожидание B является п(1 − θ) [Напомним, что А и B случайные величины], мы видим, что математическое ожидание s является

Мы также можем проверить дисперсию . Мы знаем это А + B = п (так Bп − А) и дисперсия А является (1 − θ), поэтому дисперсия s является

Модель двоичного результата

За модели с бинарными исходами (Y = 1 или 0) модель может быть оценена с помощью логарифма прогнозов

куда п - вероятность оцениваемой модели и S это оценка.[6]

Приложения

Алгоритм подсчета очков

Алгоритм оценки - это итерационный метод для численно определение максимальная вероятность оценщик.

Оценка теста

Обратите внимание, что является функцией и наблюдение , так что, в общем, это не статистика. Однако в некоторых приложениях, таких как оценка теста, оценка оценивается по определенному значению (например, значение нулевой гипотезы), и в этом случае результатом является статистика. Интуитивно понятно, что если ограниченная оценка близка к максимуму функции правдоподобия, оценка не должна отличаться от нуля более чем на ошибка выборки. В 1948 г. К. Р. Рао впервые доказал, что квадрат оценки, деленный на информационную матрицу, следует асимптотической χ2-распределение при нулевой гипотезе.[7]

Далее обратите внимание, что критерий отношения правдоподобия дан кем-то

это означает, что критерий отношения правдоподобия можно понимать как область под функцией оценки между и .[8]

Смотрите также

Примечания

  1. ^ Информатор в энциклопедии математики
  2. ^ Пиклз, Эндрю (1985). Введение в анализ правдоподобия. Норвич: W. H. Hutchins & Sons. стр.24–29. ISBN 0-86094-190-6.
  3. ^ Серфлинг, Роберт Дж. (1980). Аппроксимационные теоремы математической статистики. Нью-Йорк: Джон Вили и сыновья. п.145. ISBN 0-471-02403-1.
  4. ^ Гринберг, Эдвард; Вебстер, Чарльз Э. младший (1983). Продвинутая эконометрика: мост к литературе. Нью-Йорк: Джон Вили и сыновья. п. 25. ISBN 0-471-09077-8.
  5. ^ Сарган, Денис (1988). Лекции по продвинутой эконометрике. Оксфорд: Бэзил Блэквелл. С. 16–18. ISBN 0-631-14956-2.
  6. ^ Steyerberg, E.W .; Vickers, A.J .; Cook, N.R .; Гердс, Т .; Gonen, M .; Obuchowski, N .; Pencina, M. J .; Каттан, М. В. (2010). «Оценка эффективности моделей прогнозирования. Рамки для традиционных и новых мер». Эпидемиология. 21 (1): 128–138. Дои:10.1097 / EDE.0b013e3181c30fb2. ЧВК 3575184. PMID 20010215.
  7. ^ Рао, К. Радхакришна (1948). «Большая выборка тестов статистических гипотез относительно нескольких параметров с приложениями к задачам оценивания». Математические труды Кембриджского философского общества. 44 (1): 50–57. Дои:10.1017 / S0305004100023987.
  8. ^ Бузе, А. (1982). «Отношение правдоподобия, тесты множителей Вальда и Лагранжа: пояснительная записка». Американский статистик. 36 (3a): 153–157. Дои:10.1080/00031305.1982.10482817.

Рекомендации