Статистика и большие данные

По ссылкам Книга 1 , Книга 2 и бумага . Было упомянуто, что существует эквивалентность между регуляризованной регрессией (Ridge, LASSO и Elastic Net) и их формулами ограничения. Я также посмотрел на Cross Validated 1 и Cross Validated 2 , но я не вижу четкого ответа, демонстрирующего эту эквивалентность или логику. …

11 regression  optimization  lasso  ridge-regression  elastic-net 

Недавно я узнал о методах «без правдоподобия», которые обсуждаются в литературе. Однако мне не ясно, что означает, что метод логического вывода или метод оптимизации не имеют правдоподобия . В машинном обучении цель обычно состоит в том, чтобы максимизировать вероятность того, что некоторые параметры соответствуют функции, например весам нейронной сети. Так …

11 machine-learning  deep-learning  maximum-likelihood  generative-models  abc 

В статистике частых случаев 95-процентный доверительный интервал является процедурой, производящей интервалы, которая, если повторяться бесконечное число раз, будет содержать истинный параметр 95% времени. Почему это полезно? Доверительные интервалы часто неправильно понимают. Они не являются интервалом, в котором мы можем быть на 95% уверены, что параметр включен (если вы не используете …

11 hypothesis-testing  bayesian  mathematical-statistics  confidence-interval  frequentist 

Насколько я понимаю, это так (по крайней мере, так определяет это Википедия ). Но я нашел это утверждение Эфрона * (выделение добавлено): Марковская цепь Монте-Карло (MCMC) - это большая история успеха современной байесовской статистики. MCMC и его родственный метод «выборка Гиббса» позволяют проводить численный расчет апостериорных распределений в ситуациях, слишком …

11 mcmc  gibbs 

Я хотел бы проверить мою обученную модель на несбалансированном наборе данных. Есть ли какие-либо алгоритмы для генерации синтетических данных из сбалансированного помеченного набора данных (спам / не спам)?

11 unbalanced-classes  synthetic-data 

Я часто говорю, что люди заимствуют или обмениваются информацией в байесовских иерархических моделях. Кажется, я не могу получить прямой ответ о том, что это на самом деле означает и является ли это уникальным для байесовских иерархических моделей. Я вроде понял: некоторые уровни в вашей иерархии имеют общий параметр. Я понятия …

11 machine-learning  bayesian  multilevel-analysis  terminology  hierarchical-bayesian 

Почему был выбран символ для обозначения корреляции моментов произведения Пирсона?rrr

11 correlation  history 

(Этот вопрос навеян этот комментарий от Сианя .) Хорошо известно, что если предварительное распределение π(θ)π(θ)\pi(\theta) является правильным и вероятность L(θ|x)L(θ|x)L(\theta | x) хорошо определена, то апостериорное распределение π(θ|x)∝π(θ)L(θ|x)π(θ|x)∝π(θ)L(θ|x)\pi(\theta|x)\propto \pi(\theta) L(\theta|x) почти наверняка. В некоторых случаях мы используем вместо этого умеренную или возведенную в степень вероятность, приводящую к псевдо-задней π~(θ|x)∝π(θ)L(θ|x)απ~(θ|x)∝π(θ)L(θ|x)α\tilde\pi(\theta|x)\propto \pi(\theta) …

11 bayesian  prior  posterior 

Насколько я понимаю, CNN состоят из двух частей. Первая часть (слои conv / pool), которая выполняет извлечение объектов, и вторая часть (слои fc), которая выполняет классификацию по объектам. Поскольку полностью связанные нейронные сети не являются лучшими классификаторами (т.е. они в большинстве случаев выигрывают у SVM и RF), почему CNN заключают …

11 neural-networks  svm  random-forest  conv-neural-network 

Если следует распределению Коши, то также следует точно тому же распределению, что и ; увидеть эту тему .Y = ˉ X = 1XXXXY=X¯=1n∑ni=1XiY=X¯=1n∑i=1nXiY = \bar{X} = \frac{1}{n} \sum_{i=1}^n X_iXXX У этого свойства есть имя? Есть ли другие дистрибутивы, для которых это правда? РЕДАКТИРОВАТЬ Еще один способ задать этот вопрос: пусть …

11 distributions  expected-value  central-limit-theorem  cauchy 

Я работаю над проектом, который включает чтение меток RFID и сравнение уровня сигнала, который читатель видит при изменении конфигурации антенны (количество антенн, положение и т. Д.). Как часть проекта, мне нужно сравнить настройки, чтобы увидеть, какие из них наиболее эффективны. В идеале я мог бы выполнить либо непарный t-тест, либо …

11 data-transformation  linear-model  descriptive-statistics 

Я выполнил линейную регрессию, которая дала значительный результат, однако, когда я проверил диаграмму рассеяния на линейность, я не был уверен, что данные были линейными. Существуют ли другие способы проверки линейности без проверки диаграммы рассеяния? Может ли линейная регрессия быть значимой, если она не будет линейной? [Отредактировано, чтобы включить графики рассеяния]

11 regression 

Мой курс статистики только что научил меня, что дискретная случайная величина имеет конечное число опций ... Я этого не осознавал. Я бы подумал, как набор целых чисел, это может быть бесконечным. Поиск и проверка нескольких веб-страниц, в том числе нескольких из университетских курсов, не смогли конкретно подтвердить это; однако большинство …

11 random-variable  discrete-data 

У коллеги есть функция и для наших целей это черный ящик. Функция измеряет сходство s ( a , b ) двух объектов.ssss(a,b)s(a,b)s(a,b) Мы точно знаем, что обладает следующими свойствами:sss Значения сходства представляют собой действительные числа от 0 до 1 включительно. Только объекты, которые являются идентичными, имеют баллы 1. Таким образом, …

11 kernel-trick  distance  similarities  rbf-kernel 

Пусть - последовательность независимых и одинаково распределенных случайных величин с функцией плотности вероятности; Покажите, чтоX1,X2,…X1,X2,…X_1,X_2,\ldotsf(x)={12x2e−x0if x>0;otherwise.f(x)={12x2e−xif x>0;0otherwise. f(x) = \left\{ \begin{array}{ll} \frac{1}{2}x^2 e^{-x} & \mbox{if $x>0$};\\ 0 & \mbox{otherwise}.\end{array} \right. limn→∞P[X1+X2+…+Xn≥3(n−n−−√)]≥12limn→∞P[X1+X2+…+Xn≥3(n−n)]≥12\lim_{n\to \infty} P[X_1+X_2+\ldots+X_n\ge 3(n-\sqrt{n})] \ge \frac{1}{2} Что я пытался На первый взгляд, я подумал, что следует использовать неравенство Чебышева, поскольку …

11 probability  self-study