Поиск корней для стохастической функции

Предположим, у нас есть функция которую мы можем наблюдать только через некоторый шум. Мы не можем вычислить напрямую, только где - некоторый случайный шум. (На практике: я вычисляю используя метод Монте-Карло.) $f(x)$ $f(x)$ $f(x) + \eta$ $\eta$ $f(x)$

Какие методы доступны для нахождения корней , то есть для вычисления так, чтобы ? $f$ $x$ $f(x) = 0$

Я ищу методы, которые минимизируют количество оценок, необходимых для , поскольку это вычислительно дорого. $f(x)+\eta$

Я особенно заинтересован в методах, которые обобщают для нескольких измерений (то есть решить ). $f(x,y) = 0, g(x,y) = 0$

Мне также интересны методы, которые могут использовать некоторую информацию о дисперсии , поскольку оценка этого может быть доступна при вычислении с использованием MCMC. $\eta$ $f(x)$

approximation

— Сабольч
источник

Я не уверен, какие метки подходят для этого вопроса, пожалуйста, помогите повторно пометить.

— Сабольч

Чтобы быть справедливым, я нашел стохастическое приближение , но очень мало практической информации с примерами или практическим обсуждением того, когда это работает хорошо, а когда нет. Большая часть информации содержится в научных статьях, которые, по-видимому, требуют немалой работы для практического применения. Еще одна вещь, которую я нашел, - это оценка без правдоподобия ключевого слова, которая решает очень похожую проблему, и в Интернете доступно больше практической информации. Есть ли еще что-нибудь? Рекомендации приветствуются!

— Сабольч

интересная проблема. я предполагаю, что все градиентные методы выходят в окно

— Аксакал

Кроме того, в вашем случае проблема более сложна: вы можете контролировать

через MC

v a r [η]

$var[\eta]$

— Aksakal

Я добавлю дополнительные 50 к награде Glen_b за хороший ответ.

— Сабольч

Вы можете найти следующие ссылки полезными:

Pasupathy, R.and Kim, S. (2011) Стохастическая проблема поиска корней: обзор, решения и открытые вопросы. ACM транзакции по моделированию и компьютерному моделированию, 21 (3). [ DOI ] [ препринт ]

Waeber, R. (2013) Вероятностный поиск пополам для стохастического поиска корней. Докторская диссертация, Корнельский университет, Итака. [ pdf ]

— QuantIbex
источник

(+1) Ответ на вопрос с цитированием диссертации 2013 года - это очень здорово.

— Sycorax сообщает, что восстановит Монику

Гугл-фу этого сильна

— bdeonovic,

Первая статья, которую вы цитируете, полезна, но следует отметить, что для применения этих методов на практике все еще требуется немало работы.

— Сабольч

Было бы очень хорошо, если бы кто-то, кто прошел через методы, мог дать оценку того, сколько работы требуется, чтобы перейти от статьи к наиболее простой реализации. Взглянул на первую статью, и она кажется довольно плотной.

— Рамон Мартинес

Я думаю, что для такого рода проблем вы можете использовать стохастический градиентный спуск, см., Например, finzi.psych.upenn.edu/R/library/sgd/html/sgd.html

— Том Венселерс