Статистика и большие данные

Цитата одного из авторов: t-распределенное стохастическое вложение соседей (t-SNE) - это ( выигрышный ) метод уменьшения размерности, который особенно хорошо подходит для визуализации многомерных наборов данных. Это звучит довольно здорово, но об этом говорит автор. Еще одна цитата автора (относительно вышеупомянутого конкурса): Что вы отобрали у этого конкурса? Всегда сначала …

37 data-visualization  dimensionality-reduction  tsne 

Проблема, с которой я часто сталкивался в контексте нейронных сетей в целом и глубоких нейронных сетей в частности, заключается в том, что они «жаждут данных» - то есть они плохо работают, если у нас нет большого набора данных с помощью которого тренируется сеть. Насколько я понимаю, это связано с тем, …

37 neural-networks  deep-learning  regularization 

Я выполнил анализ основных компонентов (PCA) с помощью R, используя две разные функции ( prcompи princomp), и заметил, что оценки PCA отличаются по знаку. Как это может быть? Учти это: set.seed(999) prcomp(data.frame(1:10,rnorm(10)))$x PC1 PC2 [1,] -4.508620 -0.2567655 [2,] -3.373772 -1.1369417 [3,] -2.679669 1.0903445 [4,] -1.615837 0.7108631 [5,] -0.548879 0.3093389 [6,] …

37 r  pca  factor-analysis 

Мне было интересно, какая разница и связь между прогнозом и прогнозом? Особенно во временных рядах и регрессии? Например, правильно ли я это: Во временных рядах прогнозирование, по-видимому, означает оценку будущих значений с учетом прошлых значений временного ряда. В регрессии предсказание, по-видимому, означает оценку значения, будь то будущее, текущее или прошлое …

37 regression  time-series  forecasting  terminology 

Существует несколько популярных методов передискретизации, которые часто используются на практике, такие как начальная загрузка, тест перестановки, складной нож и т. Д. Об этих методах рассказывается множество статей и книг, например, Philip I Good (2010) Permutation, Parametric и Bootstrap Tests гипотез Мой вопрос заключается в том, какая техника повторной выборки приобрела …

37 hypothesis-testing  nonparametric  bootstrap  permutation-test 

Я пытался соответствовать моим данным в различные модели и выяснил , что fitdistrфункция из библиотеки MASSиз Rдает мне , Negative Binomialкак наиболее подходящее. Теперь со страницы вики определение дается как: Распределение NegBin (r, p) описывает вероятность k неудач и r успехов в k + r испытаниях Бернулли (p) с успехом …

37 r  distributions  modeling  negative-binomial 

Я использовал пакет caret в R для построения прогностических моделей для классификации и регрессии. Caret предоставляет унифицированный интерфейс для настройки гиперпараметров модели путем перекрестной проверки или привязки загрузки. Например, если вы строите простую модель «ближайших соседей» для классификации, сколько соседей вы должны использовать? 2? 10? 100? Caret помогает вам ответить …

37 r  time-series  cross-validation 

На странице 223 «Введение в статистическое обучение» авторы суммируют различия между регрессией гребня и лассо. Они предоставляют пример (рис. 6.9) того, когда «лассо имеет тенденцию превосходить регрессию гребня с точки зрения смещения, дисперсии и MSE». Я понимаю, почему лассо может быть желательным: это приводит к разреженным решениям, поскольку сокращает многие …

37 machine-learning  prediction  lasso  regularization  ridge-regression 

Я тренирую нейронную сеть, и потери на обучение уменьшаются, но потери на валидацию не уменьшаются или уменьшаются намного меньше, чем я ожидал, основываясь на ссылках или экспериментах с очень похожими архитектурами и данными. Как я могу это исправить? Что касается вопроса Что мне делать, если моя нейронная сеть не учится? …

37 neural-networks  deep-learning 

Я читаю « Введение в статистическое обучение ». В главе 2 они обсуждают причину оценки функции .еff 2.1.1 Зачем оценивать ?еff Есть две основные причины, по которым мы можем захотеть оценить f : прогноз и умозаключение . Мы обсуждаем каждый по очереди. Я читал это несколько раз, но мне все …

37 prediction  terminology  causality 

В чем разница между терминами «ядро» и «фильтр» в контексте сверточных нейронных сетей?

37 neural-networks  terminology  deep-learning  conv-neural-network 

Тест Мантеля широко используется в биологических исследованиях для изучения корреляции между пространственным распределением животных (положение в пространстве), например, с их генетическим родством, скоростью агрессии или каким-либо другим атрибутом. Множество хороших журналов используют его ( PNAS, Поведение животных, Молекулярная экология ... ). Я изготовил некоторые паттерны, которые могут встречаться в природе, …

37 r  correlation  spatial  pattern-recognition 

Я в настоящее время использую пакет R lme4 . Я использую линейные модели смешанных эффектов со случайными эффектами: library(lme4) mod1 <- lmer(r1 ~ (1 | site), data = sample_set) #Only random effects mod2 <- lmer(r1 ~ p1 + (1 | site), data = sample_set) #One fixed effect + # random …

37 r  regression  mixed-model  random-effects-model 

Я думаю, что я получил общее представление о VI и MCMC, включая различные разновидности MCMC, такие как выборка Гиббса, Metropolis Hastings и т. Д. Эта статья представляет собой прекрасное изложение обоих методов. У меня есть следующие вопросы: Если я хочу сделать байесовский вывод, почему я выбрал бы один метод вместо …

37 machine-learning  bayesian  mcmc  variational-bayes  approximate-inference 

Я пытаюсь понять историю градиентного спуска и стохастического градиентного спуска . Градиентный спуск был изобретен в Коши в 1847 году. Общий метод решения проблем симуляций . С. 536–538. Подробнее об этом см. здесь . С тех пор методы градиентного спуска продолжали развиваться, и я не знаком с их историей. В …

36 references  gradient-descent  history  sgd