Статистика и большие данные

Я изучаю проблемы письменных заданий в классе глубокого обучения Стэнфордского НЛП http://cs224d.stanford.edu/assignment1/assignment1_soln Я пытаюсь понять ответ для 3а, где они ищут производную от вектора для центрального слова. Предположим, вам дан вектор предсказанного слова соответствующий центральному слову c для скипграммы, а предсказание слова выполняется с помощью функции softmax, найденной в моделях …

9 self-study  neural-networks  backpropagation  word2vec 

В чем разница между многообразным обучением и нелинейным уменьшением размерности ? Я видел эти два термина взаимозаменяемо. Например: http://www.cs.cornell.edu/~kilian/research/manifold/manifold.html : Изучение многообразия (часто также называемое нелинейным уменьшением размерности) преследует цель встраивать данные, которые изначально лежат в многомерном пространстве, в низкоразмерное пространство, сохраняя при этом характерные свойства. http://www.stat.washington.edu/courses/stat539/spring14/Resources/tutorial_nonlin-dim-red.pdf : В этом …

9 terminology  dimensionality-reduction  manifold-learning 

Я изучаю начальную загрузку как средство оценки дисперсии выборочной статистики. У меня есть одно основное сомнение. Цитата из http://web.stanford.edu/class/psych252/tutorials/doBootstrapPrimer.pdf : • Сколько наблюдений мы должны пересчитать? Хорошее предложение - оригинальный размер выборки. Как мы можем пересчитать столько наблюдений, сколько в исходной выборке? Если у меня размер выборки 100, и я …

9 sampling  bootstrap  resampling 

Я хочу рассчитать важность каждой входной функции, используя глубокую модель. Но я нашел только одну статью о выборе функций с использованием глубокого обучения - глубокий выбор функций . Они вставляют слой узлов, связанных с каждым объектом, непосредственно перед первым скрытым слоем. Я слышал, что сеть глубокого убеждения (DBN) также может …

9 feature-selection  deep-learning  deep-belief-networks  rbm 

y=β0+β1x1+ε0y=β0+β1x1+ε0y = \beta_{0} + \beta_{1}x_{1} + \varepsilon_{0} Язык для описания регрессионных моделей, таких как очень простая линейная регрессия, указанная выше, часто варьируется, и такие вариации часто несут тонкие сдвиги в значениях. Например, часть модели в левой части уравнения может быть названа (среди прочего, я не знаю) с коннотациями и обозначениями …

9 regression  terminology 

Закрыто. Этот вопрос не по теме . В настоящее время он не принимает ответы. Хотите улучшить этот вопрос? Обновите вопрос, чтобы он соответствовал теме перекрестной проверки. Закрыто 11 месяцев назад . Мне нужно применить функцию активации Softmax к многослойному Perceptron в Scikit. Документация Scikit по теме моделей нейронных сетей (под …

9 neural-networks  scikit-learn  multi-class  softmax 

Я читаю этот препринт и испытываю трудности с выводом уравнений для регрессии гауссовского процесса. Они используют настройки и обозначения Расмуссена и Уильямса . Таким образом, аддитивный, с нулевым средним, стационарный и нормально распределенный шум с дисперсией предполагается:σ2noiseσnoise2\sigma^2_{noise} y=f(x)+ϵ,ϵ∼N(0,σ2noise)y=f(x)+ϵ,ϵ∼N(0,σnoise2)y=f(\mathbf{x})+\epsilon, \quad \epsilon\sim N(0,\sigma^2_{noise}) Для предполагается предшествующий GP с нулевым средним , что …

9 regression  bayesian  gaussian-process 

Я пытаюсь реализовать модель гауссовой смеси со стохастическим вариационным выводом, следуя этой статье . Это программа гауссовой смеси. Согласно статье, полный алгоритм стохастического вариационного вывода: И я все еще очень запутался в методе масштабирования до GMM. Во-первых, я думал, что локальный вариационный параметр - это просто а все остальные - …

9 machine-learning  bayesian  clustering  gaussian-mixture  variational-bayes 

У меня есть набор данных в следующем формате. Есть бинарный исход рак / нет рака. Каждый врач в наборе данных осмотрел каждого пациента и дал независимое суждение о том, есть ли у пациента рак или нет. Затем врачи дают из 5 уровень уверенности в том, что их диагноз верен, а …

9 forecasting  binary-data  psychometrics 

Байесовские статистики утверждают, что «Байесовская статистика может оценивать параметры, которые очень сложно оценить с помощью частых методов». Означает ли следующая цитата, взятая из этой документации SAS, то же самое? Он обеспечивает выводы, которые зависят от данных и являются точными, не полагаясь на асимптотическое приближение. Вывод малых выборок происходит так же, …

9 bayesian  inference  sas  frequentist 

Предположим следующую линейную зависимость: , где - зависимая переменная, - одна независимая переменная, а - термин ошибки.Y i X i u iYi=β0+β1Xi+uiYi=β0+β1Xi+uiY_i = \beta_0 + \beta_1 X_i + u_iYiYiY_iXiXiX_iuiuiu_i Согласно Stock & Watson (Введение в эконометрику; глава 4 ), третье предположение о наименьших квадратах состоит в том, что четвертые моменты …

9 regression  least-squares  assumptions  bias  consistency 

У меня есть набор данных с широкими изображениями: 1760x128. Я читал учебники и книги, и в большинстве из них утверждается, что входные изображения должны быть квадратными, а если нет, то они преобразуются в квадратные, чтобы их можно было обучить уже обученным (на квадратных изображениях) cnns. Есть ли способ обучить cnn …

9 conv-neural-network 

В «Элементах статистического обучения» я нашел следующее утверждение: Существует одна квалификация: начальные неконтролируемые этапы скрининга могут быть выполнены до того, как образцы будут опущены. Например, мы могли бы выбрать 1000 предикторов с наибольшей дисперсией во всех 50 выборках перед началом перекрестной проверки. Поскольку эта фильтрация не включает метки классов, она …

9 machine-learning  cross-validation  feature-selection 

Одно из предположений о линейной регрессии состоит в том, что должна быть постоянная дисперсия в терминах ошибок и что доверительные интервалы и проверки гипотез, связанные с моделью, основаны на этом предположении. Что именно происходит, когда члены ошибки не имеют постоянной дисперсии?

9 regression  heteroscedasticity  assumptions  robust-standard-error 

Я использую библиотеку python statsmodels VAR для моделирования данных финансовых временных рядов, и некоторые результаты меня озадачили. Я знаю, что модели VAR предполагают, что данные временного ряда являются стационарными. Я непреднамеренно подбираю нестационарную серию журнальных цен для двух разных ценных бумаг, и, к удивлению, подобранные значения и прогнозы в выборке …

9 time-series  forecasting  r-squared  var  stationarity