Вопросы с тегом «gaussian-process»

Я только начал читать о GP, и по аналогии с обычным распределением Гаусса оно характеризуется функцией среднего и ковариационной функцией или ядром. Я разговаривал, и оратор сказал, что средняя функция обычно неинтересна, и все усилия по выводу тратятся на оценку правильной ковариационной функции. Может кто-нибудь объяснить мне, почему так должно …

28 gaussian-process 

Я немного смущен. Почему гауссовские процессы называют непараметрическими моделями? Они предполагают, что функциональные значения или их подмножества имеют гауссовский априор со средним 0 и ковариационную функцию, заданную в качестве функции ядра. Эти функции ядра сами имеют некоторые параметры (например, гиперпараметры). Так почему их называют непараметрическими моделями?

26 nonparametric  gaussian-process 

Правда ли, что байесовские методы не подходят больше? (Я видел некоторые документы и учебные пособия, делающие это утверждение) Например, если мы применяем гауссовский процесс к MNIST (классификация рукописных цифр), но показываем только одну выборку, будет ли он возвращаться к предыдущему распределению для любых входных данных, отличных от этой одной выборки, …

25 bayesian  nonparametric  gaussian-process  overfitting  misspecification 

Я читал Марауна и др. «Нестационарные гауссовские процессы в вейвлет-области: синтез, оценка и значимое тестирование» (2007), в котором определяется класс нестационарных ГП, которые можно задавать умножителями в вейвлет-области. Реализация одного такого GP: Где η ( т ) является белым шумом, W г является непрерывное вейвлетпреобразование по отношению к вейвлет г …

20 normal-distribution  stochastic-processes  gaussian-process  fourier-transform  wavelet 

Ковариационная функция Матерна обычно используется в качестве функции ядра в гауссовском процессе. Определяется так Cν(d)=σ221−νΓ(ν)(2ν−−√dρ)νKν(2ν−−√dρ)Cν(d)=σ221−νΓ(ν)(2νdρ)νKν(2νdρ) {\displaystyle C_{\nu }(d)=\sigma ^{2}{\frac {2^{1-\nu }}{\Gamma (\nu )}}{\Bigg (}{\sqrt {2\nu }}{\frac {d}{\rho }}{\Bigg )}^{\nu }K_{\nu }{\Bigg (}{\sqrt {2\nu }}{\frac {d}{\rho }}{\Bigg )}} где ddd - функция расстояния (например, евклидово расстояние), ΓΓ\Gamma - гамма-функция, KνKνK_\nu - …

19 spatial  gaussian-process  kernel-trick 

В прошлом году на NIPS 2017 Али Рахими и Бен Рехт выиграли тест на награду за свою работу «Случайные функции для крупномасштабных машин с ядром», где они представили случайные функции, которые впоследствии были кодифицированы как алгоритм случайных кухонных раковин. В рамках публикации своего документа они показали, что их модель может …

18 machine-learning  svm  gaussian-process  approximation 

примечание: без правильных ответов через месяц я разместил сообщение на SO Фон У меня есть модель, fff , где Y=f(X)Y=f(X)Y=f(\textbf{X}) XX\textbf{X} -матрица выборок изпараметров размером а-векторвыходных данных модели.n×mn×mn \times mmmmYYYn×1n×1n \times 1 fff требует большого объема вычислений, поэтому я хотел бы аппроксимировать fff используя многовариантный кубический сплайн через (X,Y)(X,Y)(X,Y) точек, …

17 r  multivariate-analysis  splines  interpolation  gaussian-process 

Я изучаю гауссовский процесс и слышал только кусочки. Буду очень признателен за комментарии и ответы. Верно ли, что для любого набора данных приближение функции гауссовского процесса даст нулевую или незначительную ошибку подгонки в точках данных? В другом месте я также слышал, что гауссовский процесс особенно хорош для шумных данных. Похоже, …

16 gaussian-process 

Я читаю учебник Гауссовского процесса для машинного обучения CE Расмуссена и CKI Williams, и у меня возникают некоторые затруднения с пониманием того, что означает распределение по функциям . В учебнике приводится пример того, что функцию следует представлять как очень длинный вектор (на самом деле он должен быть бесконечно длинным?). Таким …

15 distributions  gaussian-process 

Я знаю, что Гауссова регрессия процесса (GPR) является альтернативой использованию сплайнов для подгонки гибких нелинейных моделей. Я хотел бы знать, в каких ситуациях одна из них более подходит, чем другая, особенно в рамках байесовской регрессии. Я уже рассмотрел Какие преимущества / недостатки использования сплайнов, сглаженных сплайнов и эмуляторов гауссовских процессов? …

15 regression  gaussian-process  splines  kriging 

Часто говорят, что регрессия Гауссова процесса соответствует (GPR) байесовской линейной регрессии с (возможно) бесконечным количеством базисных функций. В настоящее время я пытаюсь понять это в деталях, чтобы понять, какие модели я могу выразить, используя GPR. Как вы думаете, это хороший подход, чтобы попытаться понять GPR? В книге « Гауссовские процессы …

14 gaussian-process  kernel-trick  basis-function 

Дивергенция Кульбака-Лейблера - это метрика для сравнения двух функций плотности вероятности, но какая метрика используется для сравнения двух ГП XXX и YYY ?

14 gaussian-process  metric 

Я пытаюсь настроить гиперпараметры алгоритма гауссовой регрессии, который я реализовал. Я просто хочу максимизировать предельное правдоподобие, определяемое формулой где K - ковариационная матрица с элементы K_ {ij} = k (x_i, x_j) = b ^ {- 1} \ exp (- \ frac {1} {2} (x_i-x_j) ^ TM (x_i-x_j)) + a ^ …

13 regression  optimization  gaussian-process  hyperparameter 

Есть ли способ выполнить Гауссовскую регрессию процесса на многомерном выходе (возможно, коррелированном) с использованием GPML ? В демонстрационном скрипте я мог найти только 1D пример. Аналогичный вопрос о том , что CV тали случай многомерного ввода. Я просмотрел их книгу, чтобы узнать, смогу ли я найти что-нибудь. В 9-й главе …

13 regression  machine-learning  matlab  gaussian-process  nonparametric-bayes 

У меня эта путаница связана с преимуществами гауссовских процессов. Я имею в виду сравнение с простой линейной регрессией, где мы определили, что линейная функция моделирует данные. Однако в гауссовых процессах мы определяем распределение функций, что означает, что мы не определяем, что функция должна быть линейной. Мы можем определить априор над …

13 gaussian-process