Математическая оптимизация на шумную функцию

Пусть - довольно приятная функция (например, непрерывная, дифференцируемая, не слишком много локальных максимумов, может быть вогнутая и т. Д.). Я хочу найти максимумы : значение которое делает максимально большим.$f:\mathbb{R}^d \to \mathbb{R}$$f$$x \in \mathbb{R}^d$$f(x)$

Если бы у меня была процедура для точной оценки на любом входе по моему выбору, я мог бы использовать стандартные методы математической оптимизации : восхождение на холм, градиентный спуск (ну, градиентный подъем) и т. Д. Однако в моем приложении у меня нет способ точно оценить . Вместо этого у меня есть способ оценить значение .$f$$f(x)$$f(x)$

В частности, с учетом любого и любого меня есть оракул, который выведет оценку , и ожидаемая ошибка которого составляет приблизительно . Время выполнения этого вызова оракула пропорционально . (Он реализуется посредством своего рода симуляции; точность симуляции увеличивается с квадратным корнем из числа испытаний, и я могу выбрать, сколько испытаний выполнить, чтобы я мог выбрать желаемую точность.) Так что это дает мне способ получить оценку любой точности, которую я желаю, но чем точнее я хочу, чтобы оценка была, тем больше времени это займет у меня.$x$$\varepsilon$$f(x)$$\varepsilon$$1/\varepsilon^2$

Учитывая этот шумный оракул для , существуют ли какие-либо методы для вычисления максимумов настолько эффективно, насколько это возможно? (Или, точнее, нахождение приблизительных максимумов.) Существуют ли варианты альпинизма, градиентного спуска и т. Д., Которые работают в этой модели?$f$$f$

Конечно, я мог бы исправить очень маленькое значение и применить альпинизм или градиентный спуск с этим оракулом, сохраняя тот же самый всем протяжении. Однако это может быть излишне неэффективным: нам может не потребоваться такая точная оценка в начале, тогда как точность ближе к концу, когда вы сосредоточиваетесь на решении, является более важной. Так есть ли способ использовать мою способность динамически контролировать точность моей оценки, чтобы сделать процесс оптимизации более эффективным? Была ли эта проблема изучена ранее?$\varepsilon$$\varepsilon$

Точную функцию можно заменить на функцию шумом , где - искусственный параметр, используемый для описания шумовой зависимости, такой что и содержат шум.$f(x,p)$$f(x+\Delta x, p + \Delta p)$$p$$\Delta x$$\Delta p$

• Некоторые методы, используемые в стохастической оптимизации и надежной оптимизации, могут быть применимы.
• Поскольку около максимумов, менее опасен, чем .$\frac{\partial f}{\partial x}\approx 0$$\Delta x$$\Delta p$
• Иногда можно точно аппроксимировать при оценке . Зачастую это верно только в теории, потому что она не реализована, а некоторые части потребуют особого внимания.$\frac{\partial f}{\partial x}(\tilde{x}, \tilde{p})$$f(\tilde{x}, \tilde{p})$
• Желаемая «малость» (и ) является решением «конечного пользователя». Можно предложить эвристику для управления им, но время выполнения, пропорциональное , слишком медленное для полностью автоматической обработки точности.$\Delta p$$\Delta x$$1/\epsilon^2$
• Данный компромисс между шумом и временем выполнения - это то, что отличает эту проблему от лучше изученных. Проблемы, когда шум просто неизбежен, встречаются чаще и лучше изучаются.