куда дважды-дифференцируемыйфункция, M это большое число, а конечные точки а и б может быть бесконечным. Изначально эта техника была представлена в Лаплас (1774 г.).
имеет глобальный максимум 0. показан сверху для M = 0,5, а внизу для M = 3 (оба синего цвета). В качестве M увеличивает приближение этой функции Функция Гаусса (показан красным) улучшается. Это наблюдение лежит в основе метода Лапласа.
Предположим, что функция имеет уникальный глобальный максимум в Икс0. Позволять M быть константой и рассмотрим следующие две функции:
Обратите внимание, что Икс0 будет глобальным максимумом и также. Теперь обратите внимание:
В качестве M увеличивается, соотношение для будет расти экспоненциально, а отношение не меняется. Таким образом, существенные вклады в интеграл этой функции будут давать только точки Икс в район из Икс0, который затем можно оценить.
Общая теория метода Лапласа
Чтобы сформулировать и мотивировать метод, нам потребуется несколько предположений. Будем считать, что Икс0 не является конечной точкой интервала интегрирования, поэтому значения не может быть очень близко к пока не Икс близко к Икс0, и это
С имеет глобальный максимум на Икс0, и с тех пор Икс0 не конечная точка, это стационарный пункт, поэтому производная от исчезает в Икс0. Следовательно, функция может быть приближен к квадратичному порядку
за Икс рядом с Икс0 (отзывать ). Предположения обеспечивают точность приближения
(см. картинку справа). Этот последний интеграл является Гауссов интеграл если пределы интегрирования изменяются от −∞ до + ∞ (что можно предположить, поскольку экспонента очень быстро затухает при удалении от Икс0), и поэтому его можно вычислить. Мы нашли
Обобщение этого метода и расширение до произвольной точности обеспечивается Туман (2008).
Официальное заявление и доказательство
Предполагать является дважды непрерывно дифференцируемой функцией на и существует единственная точка такой, что:
Потом:
Доказательство
Нижняя граница: Позволять . С непрерывно существует так что если тогда К Теорема Тейлора, для любого
Тогда у нас есть следующая нижняя оценка:
где последнее равенство получено заменой переменных
Помните поэтому мы можем извлечь квадратный корень из отрицания.
Если разделить обе части указанного неравенства на
и возьмем предел, получим:
поскольку это верно для произвольных получаем нижнюю границу:
Обратите внимание, что это доказательство работает также, когда или же (или оба).
Верхняя граница: Доказательство аналогично доказательству нижней оценки, но с некоторыми неудобствами. Снова начнем с выбора но для того, чтобы доказательства работали, нам нужно достаточно маленький, чтобы Тогда, как и выше, по непрерывности и Теорема Тейлора мы можем найти так что если , тогда
Наконец, по нашим предположениям (предполагая конечны) существует так что если , тогда .
Затем мы можем вычислить следующую верхнюю границу:
Если разделить обе части указанного неравенства на
и возьмем предел, получим:
С произвольно, получаем верхнюю границу:
И объединение этого с нижней границей дает результат.
Обратите внимание, что приведенное выше доказательство, очевидно, не выполняется, когда или же (или оба). Чтобы разобраться в этих случаях, нам нужны дополнительные предположения. Достаточным (не необходимым) предположением является то, что для
и что число как указано выше (обратите внимание, что это должно быть предположением в случае, когда интервал бесконечно). Доказательство проводится иначе, как указано выше, но с несколько другим приближением интегралов:
Когда мы делим на
мы получаем за этот срок
чей предел как является . Остальная часть доказательства (анализ интересующего термина) проводится, как указано выше.
Данное условие в случае бесконечного интервала, как сказано выше, является достаточным, но не необходимым. Однако это условие выполняется во многих, если не в большинстве, приложениях: условие просто говорит, что изучаемый нами интеграл должен быть четко определен (не бесконечен) и что максимум функции на должен быть "истинным" максимумом (число должен существовать). Нет необходимости требовать конечности интеграла при но достаточно потребовать конечности интеграла для некоторого
Этот метод основан на 4 основных понятиях, таких как
Давайте посмотрим на Расширение Тейлора из вокруг Икс0 и перевести Икс к у поскольку мы проводим сравнение в y-пространстве, мы получим
Обратите внимание, что потому что неподвижная точка. Из этого уравнения вы обнаружите, что члены выше второй производной в этом разложении Тейлора подавляются как порядок так что приблизится к Функция Гаусса как показано на рисунке. Помимо,
Фигура с равно 1, 2 и 3, а красная линия - кривая функции .
3. Чем больше есть, меньший диапазон относится
Поскольку мы делаем сравнение в y-пространстве, фиксируется в что вызовет ; тем не мение, обратно пропорционально , выбранный регион будет меньше, когда увеличена.
4. Если интеграл в методе Лапласа сходится, вклад области, которая не находится вокруг стационарной точки интегрирования его относительной ошибки, будет стремиться к нулю, как растет.
Опираясь на 3-ю концепцию, даже если мы выберем очень большой Dу, sDу наконец будет очень маленьким числом, когда увеличено до огромного числа. Тогда как мы можем гарантировать, что интеграл остатка будет стремиться к 0, когда достаточно большой?
Основная идея - найти функцию такой, что и интеграл будет стремиться к нулю, когда растет. Поскольку экспоненциальная функция от всегда будет больше нуля, пока является действительным числом, и эта экспоненциальная функция пропорциональна интеграл будет стремиться к нулю. Для простоты выберите как касательная через точку как показано на рисунке:
обозначается двумя касательная линии, проходящие через . Когда становится меньше, область покрытия будет больше.
Если интервал интегрирования этого метода конечен, мы обнаружим, что независимо от продолжается в остальной области, всегда будет меньше, чем показано выше, когда достаточно большой. Кстати, позже будет доказано, что интеграл от будет стремиться к нулю, когда достаточно большой.
Если интервал интегрирования этого метода бесконечен, и могут всегда переходить друг к другу. В таком случае мы не можем гарантировать, что интеграл от в конечном итоге будет стремиться к нулю. Например, в случае всегда будет расходиться. Следовательно, нам нужно потребовать, чтобы может сходиться в случае бесконечного интервала. В таком случае этот интеграл будет стремиться к нулю, когда достаточно большой, и мы можем выбрать это как крест и
Вы можете спросить, почему бы не выбрать как сходящийся интеграл? Позвольте мне показать вам причину на примере. Предположим, что остальная часть является тогда и его интеграл будет расходиться; однако, когда интеграл сходится. Итак, интеграл некоторых функций будет расходиться при не большое число, но они сойдутся, когда достаточно большой.
Основываясь на этих четырех концепциях, мы можем вывести относительную ошибку этого метода Лапласа.
Другие составы
Приближение Лапласа иногда записывают как
куда положительный.
Важно отметить, что точность приближения зависит от переменной интегрирования, то есть от того, что остается в и что входит в .[1]
Вывод его относительной погрешности
Сначала используйте для обозначения глобального максимума, который упростит этот вывод. Нас интересует относительная погрешность, записанная как ,
куда
Итак, если мы позволим
и , мы можем получить
поскольку .
Для оценки сверху отметим, что таким образом, мы можем разделить эту интеграцию на 5 частей с 3 различными типами (a), (b) и (c) соответственно. Следовательно,
куда и похожи, давайте просто посчитаем и и тоже похожи, я просто подсчитаю .
За , после перевода , мы можем получить
Это означает, что пока достаточно большой, он будет стремиться к нулю.
За , мы можем получить
куда
и должен иметь такой же знак в этом регионе. Давайте выбирать как касательная через точку в , т.е. что показано на рисунке
касательные линии через точку в .
Из этого рисунка видно, что когда или же становится меньше, область, удовлетворяющая указанному выше неравенству, станет больше. Поэтому, если мы хотим найти подходящий покрыть все в интервале , будет иметь верхний предел. Кроме того, поскольку интеграция прост, позвольте мне использовать его, чтобы оценить относительную ошибку, вносимую этим .
Основываясь на разложении Тейлора, мы можем получить
и
а затем подставьте их обратно в расчет ; однако вы можете обнаружить, что остатки этих двух расширений обратно пропорциональны квадратному корню из , позвольте мне бросить их, чтобы украсить расчет. Лучше хранить их, но это сделает формулу уродливее.
Следовательно, он будет стремиться к нулю, когда становится больше, но не забывайте, что верхняя граница следует учитывать при этом расчете.
Об интеграции рядом , мы также можем использовать Теорема Тейлора рассчитать это. Когда
и вы можете обнаружить, что он обратно пропорционален квадратному корню из . Фактически, будет вести себя так же, когда является константой.
В итоге интеграл вблизи стационарной точки станет меньше при становится больше, а остальные части будут стремиться к нулю, пока достаточно большой; однако мы должны помнить, что имеет верхний предел, который определяется тем, будет ли функция всегда больше чем в остальном регионе. Однако пока мы можем найти удовлетворяющее этому условию, верхняя оценка можно выбрать прямо пропорциональным поскольку является касательной через точку в . Итак, чем больше есть, больше возможно.
В многомерном случае, когда это -мерный вектор и является скалярной функцией от , Приближение Лапласа обычно записывается как:
В расширении метода Лапласа комплексный анализ, и в частности Интегральная формула Коши, используется для нахождения контура крутого спуска для (асимптотически при больших M) эквивалентный интеграл, выраженный как линейный интеграл. В частности, если нет смысла Икс0 где производная от исчезает на реальной прямой, возможно, потребуется деформировать контур интегрирования до оптимального, где вышеупомянутый анализ будет возможен. И снова основная идея состоит в том, чтобы сократить, по крайней мере, асимптотически, вычисление данного интеграла до вычисления более простого интеграла, который может быть вычислен явно. См. Книгу Эрдели (1956) для простого обсуждения (где метод назван крутые спуски).
Подходящий состав для комплекса z-самолет
для пути, проходящего через седловую точку в z0. Обратите внимание на явное появление знака минус, указывающего направление второй производной: необходимо нет взять модуль. Также обратите внимание, что если подынтегральное выражение мероморфный, может потребоваться добавить вычеты, соответствующие полюсам, пройденным при деформации контура (см., например, раздел 3 статьи Окунькова Симметричные функции и случайные разбиения).
Дальнейшие обобщения
Расширением метода наискорейшего спуска является так называемый нелинейная стационарная фаза / метод наискорейшего спуска. Здесь вместо интегралов нужно асимптотически оценивать решения Проблемы факторизации Римана – Гильберта.
Учитывая контур C в сложная сфера, функция определенный на этом контуре и в специальной точке, скажем на бесконечности, ищется функция M голоморфный вдали от контура C, с заданным прыжком через C, и с заданной нормализацией на бесконечности. Если и поэтому M являются матрицами, а не скалярами, это проблема, которая, как правило, не допускает явного решения.
Тогда возможна асимптотическая оценка в соответствии с методом линейной стационарной фазы / наискорейшего спуска. Идея состоит в том, чтобы асимптотически свести решение данной проблемы Римана – Гильберта к решению более простой, явно решаемой проблемы Римана – Гильберта. Теорема Коши используется для обоснования деформаций контура скачка.
Нелинейная стационарная фаза была введена Дейфтом и Чжоу в 1993 году на основе более ранней работы Its. (Собственно говоря) нелинейный метод наискорейшего спуска был введен Камвиссисом, К. Маклафлином и П. Миллером в 2003 году на основе предыдущей работы Лакса, Левермора, Дейфта, Венакидеса и Чжоу. Как и в линейном случае, «контуры наискорейшего спуска» решают задачу минимума-максимума. В нелинейном случае они оказываются «S-образными кривыми» (определенными в другом контексте еще в 80-х годах Шталем, Гончаром и Рахмановым).
В общем случае любое распределение, диффеоморфное гауссову, имеет плотность
и медиана-точка отображается на медиану гауссова распределения. Сопоставление логарифма функций плотности и их производных в средней точке до заданного порядка дает систему уравнений, которые определяют приблизительные значения и .
Аппроксимация была введена в 2019 г. Д. Макогоном и К. Мораисом Смитом прежде всего в контексте функция распределения оценка для системы взаимодействующих фермионов.
Комплексные интегралы
Для комплексных интегралов вида:
с делаем замену т = iu и изменение переменной чтобы получить двустороннее преобразование Лапласа:
Затем мы разделили грамм(c + ix) в действительной и сложной части, после чего восстанавливаем ты = т/я. Это полезно для обратное преобразование Лапласа, то Формула Перрона и сложная интеграция.
Azevedo-Filho, A .; Шахтер, Р. (1994), "Аппроксимации метода Лапласа для вероятностного вывода в сетях доверия с непрерывными переменными", в Mantaras, R .; Пул, Д. (ред.), Неопределенность в искусственном интеллекте, Сан-Франциско, Калифорния: Морган Кауфманн, CiteSeerX10.1.1.91.2064.
Deift, P .; Чжоу, X. (1993), "Метод наискорейшего спуска для осцилляционных задач Римана – Гильберта. Асимптотика для уравнения MKdV", Анна. математики., 137 (2), стр. 295–368, arXiv:математика / 9201261, Дои:10.2307/2946540, JSTOR2946540.
Эрдели, А. (1956), Асимптотические разложения, Дувр.
Фог, А. (2008), "Методы расчета нецентрального гипергеометрического распределения Валлениуса", Коммуникации в статистике, моделировании и вычислениях, 37 (2), стр. 258–273, Дои:10.1080/03610910701790269.
Лаплас, П. С. (1774 г.), «Mémoires de Mathématique et de Physique, Tome Sixième» [Воспоминания о вероятности причин событий.], Статистическая наука, 1 (3): 366–367, JSTOR2245476