Статистика и большие данные

Я понимаю, что нейронные сети (НС) можно считать универсальными аппроксиматорами как для функций, так и для их производных, при определенных предположениях (как для сети, так и для функции, которую нужно аппроксимировать). На самом деле, я провел ряд тестов на простые, но нетривиальные функции (например, полиномы), и мне кажется, что я …

11 machine-learning  neural-networks  function  derivative 

Я хотел бы обучить SVM для классификации дел (ИСТИНА / ЛОЖЬ) на основе 20 атрибутов. Я знаю, что некоторые из этих атрибутов тесно взаимосвязаны. Поэтому мой вопрос: чувствителен ли SVM к корреляции или избыточности между функциями? Любая ссылка?

11 svm  multicollinearity  kernel-trick 

Делая некоторые EDA, я решил использовать рамочный график, чтобы проиллюстрировать разницу между двумя уровнями фактора. Способ, которым ggplot отображал рамочный график, был удовлетворительным, но немного упрощенным (первый график ниже). Изучая характеристики коробочных участков, я начал экспериментировать с выемками. Я понимаю, что метки отображают CI вокруг медианы, и что если две …

11 data-visualization  ggplot2  eda 

Марковские цепочки имеют для меня смысл, я могу использовать их для моделирования вероятностных изменений состояния в реальных жизненных задачах. Затем приходит HMM. Говорят, что HMM более подходят для моделирования многих проблем, чем MC. Однако проблемы, о которых упоминают люди, довольно сложны для понимания, такие как обработка речи. Итак, мой вопрос: …

11 hidden-markov-model 

Я составил следующий код с функцией stl (Сезонная декомпозиция временных рядов по Лесс): plot(stl(ts(rnorm(144), frequency=12), s.window="periodic")) Это показывает значительное сезонное изменение со случайными данными, помещенными в коде выше (функция rnorm). Изменения в значимости видны каждый раз, когда это выполняется, хотя картина иная. Два таких шаблона показаны ниже: Как мы можем …

11 time-series  seasonality  loess 

При реализации автоэнкодера с нейронной сетью большинство людей используют сигмоид в качестве функции активации. Можем ли мы использовать ReLU вместо этого? (Поскольку ReLU не имеет ограничений на верхнюю границу, в основном это означает, что входное изображение может иметь пиксель больше 1, в отличие от ограниченных критериев для автоматического кодера при …

11 machine-learning  neural-networks  deep-learning  autoencoders 

Если β∗=argminβ∥y−Xβ∥22+λ∥β∥1β∗=argminβ‖y−Xβ‖22+λ‖β‖1\beta^*=\mathrm{arg\,min}_{\beta} \|y-X\beta\|^2_2+\lambda\|\beta\|_1 , может ли ∥β∗∥2‖β∗‖2\|\beta^*\|_2 увеличиваться при λλ\lambda увеличивается? Я думаю, что это возможно. Хотя ∥β∗∥1‖β∗‖1\|\beta^*\|_1 не увеличивается при увеличении λλ\lambda (мое доказательство ), ∥β∗∥2‖β∗‖2\|\beta^*\|_2 может увеличиваться. На рисунке ниже показана возможность. Когда λλ\lambda увеличивается, если β∗β∗\beta^* перемещается (линейно) от PPP к QQQ , то ∥β∗∥2‖β∗‖2\|\beta^*\|_2 увеличивается, а …

11 lasso 

У меня есть датафрейм, который содержит значения в 4 столбцах: Например: ID, price, click count,rating Я хотел бы «разбить» этот фрейм данных на N разных групп, где каждая группа будет иметь одинаковое количество строк с одинаковым распределением цены, количества кликов и атрибутов рейтингов. Любой совет очень важен, так как я …

11 r  distributions 

Как можно оценить ожидание квадрата нормального CDF в закрытой форме? E[Φ(aZ+b)2]=∫∞−∞Φ(az+b)2ϕ(z)dzE[Φ(aZ+b)2]=∫−∞∞Φ(az+b)2ϕ(z)dz\mathbb{E}\left[\Phi\left(aZ+b\right)^{2}\right] = \int_{-\infty}^{\infty}\Phi\left(az+b\right)^{2}\phi(z)\,dz Здесь , - действительные числа, , и - функции плотности и распределения стандартной нормальной случайной величины, соответственно.aaabbbZ∼N(0,1)Z∼N(0,1)Z\sim\mathcal{N}(0,1)ϕ(⋅)ϕ(⋅)\phi(\cdot)Φ(⋅)Φ(⋅)\Phi(\cdot)

11 mathematical-statistics 

У меня проблемы с пониманием этого предложения: Первая предложенная архитектура аналогична NNLM с прямой связью, где нелинейный скрытый слой удаляется, а проекционный слой используется для всех слов (а не только для матрицы проекции); таким образом, все слова проецируются в одну и ту же позицию (их векторы усредняются). Что такое проекционный …

11 machine-learning  neural-networks  natural-language  word-embeddings  language-models 

Я работаю над проблемой бинарной классификации, где гораздо важнее не иметь ложных срабатываний; довольно много ложных негативов в порядке. Например, я использовал несколько классификаторов в sklearn, но я думаю, что ни один из них не имеет возможности явно регулировать компромисс между точностью и отзывом (они дают довольно хорошие результаты, но …

11 classification  precision-recall 

Работая с временными рядами, мы иногда выявляем и удаляем сезонность, используя спектральный анализ. Я - настоящий новичок во временных рядах, и меня смущает, почему нужно убрать сезонность из исходного временного ряда? Разве удаление сезонности не искажает исходные данные? Какие преимущества мы получаем, строя временные ряды, удаляя сезонность?

11 time-series  seasonality 

В своей работе я видел несколько применений точного теста Фишера, и мне было интересно, насколько хорошо он соответствует моим данным. Просматривая несколько источников, я понял, как рассчитать статистику, но так и не увидел четкого и формального объяснения предполагаемой нулевой гипотезы. Может кто-нибудь объяснить или направить меня к формальному объяснению предполагаемого …

11 hypothesis-testing  chi-squared  multinomial  contingency-tables  fishers-exact 

Я немного читал об улучшении алгоритмов для задач классификации и Adaboost в частности. Я понимаю, что цель Adaboost состоит в том, чтобы взять нескольких «слабых учеников» и, через набор итераций по обучающим данным, подтолкнуть классификаторы к тому, чтобы научиться предсказывать классы, в которых модели (ы) постоянно допускают ошибки. Однако мне …

11 machine-learning  classification  algorithms  boosting 

Итак, я знаю, что если мы хотим найти распределение вероятностей суммы независимых случайных величин , мы можем вычислить его из распределений вероятностей и , говоря:X+YX+YX + YXXXYYY fX+Y(a)=∫∞x=−∞fX,Y(X=x,Y=a−x) dx=∫∞x=−∞fX(x)fY(a−x) dxfX+Y(a)=∫x=−∞∞fX,Y(X=x,Y=a−x) dx=∫x=−∞∞fX(x)fY(a−x) dxf_{X + Y}(a) = \int_{x = -\infty}^{\infty} f_{X, Y}(X = x, Y = a - x)~dx = \int_{x = …

11 probability