Статистика и большие данные

Насколько я понимаю (очень базовое), Наивный Байес оценивает вероятности, основываясь на частотах классов каждой функции в обучающих данных. Но как рассчитать частоту непрерывных переменных? И когда вы делаете прогноз, как он классифицирует новое наблюдение, которое может не иметь одинаковых значений любого наблюдения в обучающем наборе? Использует ли он какую-то меру …

14 machine-learning  classification  bayesian  naive-bayes 

Я пытаюсь повысить градиент для набора данных с частотой событий около 1%, используя Enterprise miner, но он не дает никакого вывода. Мой вопрос таков: поскольку это подход, основанный на дереве решений, правильно ли использовать градиентное усиление при таком низком событии?

14 boosting  unbalanced-classes  rare-events  gradient 

В некоторых уроках я обнаружил, что было указано, что инициализация весов «Ксавье» (статья: Понимание сложности обучения глубоких нейронных сетей с прямой связью ) является эффективным способом инициализации весов нейронных сетей. Для полностью связанных слоев в этих уроках было практическое правило: Var(W)=2nin+nout,simpler alternative:Var(W)=1ninVar(W)=2nin+nout,simpler alternative:Var(W)=1ninVar(W) = \frac{2}{n_{in} + n_{out}}, \quad \text{simpler alternative:} …

14 normal-distribution  variance  neural-networks  conv-neural-network 

Почему область под кривой ROC является вероятностью того, что классификатор оценит случайно выбранный «положительный» экземпляр (из полученных предсказаний) выше, чем случайно выбранный «положительный» (из исходного положительного класса)? Как можно доказать это утверждение математически, используя интеграл, давая CDF и PDF истинных положительных и отрицательных распределений классов?

14 probability  roc  auc 

Я знаю, что дивергенция KL не является симметричной, и ее нельзя строго рассматривать как метрику. Если да, то почему он используется, когда JS Divergence удовлетворяет требуемым свойствам метрики? Существуют ли сценарии, в которых может использоваться дивергенция KL, но не дивергенция JS или наоборот?

14 probability  distributions  kullback-leibler  metric 

Я читал о трюке log-sum-exp во многих местах (например, здесь и здесь ), но никогда не видел пример того, как он применяется конкретно к наивному байесовскому классификатору (например, с дискретными функциями и двумя классами) Как именно можно избежать проблемы числового снижения при использовании этого трюка?

14 naive-bayes  underflow 

Я использовал один класс SVM , реализованный в scikit-learn, для своей исследовательской работы. Но у меня нет хорошего понимания этого. Может ли кто-нибудь дать простое, хорошее объяснение одного класса SVM ?

14 machine-learning  svm  data-mining  novelty-detection 

MLE = оценка максимального правдоподобия MAP = максимум апостериорный MLE интуитивно понятен / наивен в том смысле, что он начинается только с вероятности наблюдения с учетом параметра (то есть функции правдоподобия) и пытается найти параметр, наилучшим образом соответствующий наблюдению . Но это не принимать во внимание предшествующее знание. MAP кажется …

14 machine-learning  bayesian  estimation  maximum-likelihood  inference 

Я пытаюсь понять концепцию чрезмерной дисперсии в логистической регрессии. Я читал, что избыточная дисперсия - это когда наблюдаемая дисперсия переменной отклика больше, чем можно было бы ожидать от биномиального распределения. Но если биномиальная переменная может иметь только два значения (1/0), как она может иметь среднее значение и дисперсию? Я в …

14 logistic  variance  binomial  mean  overdispersion 

Я понимаю, что это, вероятно, очень простой вопрос, но после поиска я не могу найти ответ, который ищу. У меня есть проблема, когда мне нужно стандартизировать переменные, запустить (регрессия гребня), чтобы вычислить оценки гребня бета-версий. Затем мне нужно преобразовать их обратно в исходную шкалу переменных. Но как мне это сделать? …

14 regression  standard-error  standardization  predictor  centering 

У меня есть вопрос об оптимизации параметров, когда я использую 10-кратную перекрестную проверку. Я хочу спросить, должны ли параметры фиксироваться во время обучения модели каждого сгиба, т.е. (1) выбрать один набор оптимизированных параметров для средней точности каждого сгиба. или же (2) Я должен найти оптимизированный параметр для каждого сгиба, а …

14 cross-validation  optimization  parameterization 

У меня есть вектор чисел, который я загрузил здесь (... / code / MyData.Rdata), используя dput. Я хотел бы получить bca ci, поэтому я написал этот код: my.mean <- function(dat, idx){ return (mean(dat[idx], na.rm = TRUE)) } boot.out<-boot(data=my.data, statistic = my.mean, R=1000) Но когда я запускаю следующее, я получаю это: …

14 r  bootstrap 

Короткая версия: Какой наиболее эффективный в вычислительном отношении метод оценки режима многомерного набора данных, взятого из непрерывного распределения? Длинная версия: у меня есть набор данных, который мне нужен для оценки режима. Режим не совпадает со средним или медианой. Пример показан ниже, это 2D-пример, но решение ND было бы лучше: В …

14 estimation  multivariate-analysis  continuous-data  mode 

Основываясь на выборке из времен выживания, я хотел бы оценить вероятность времени выживания для некоторого конкретного , используя оценку Каплана-Мейера. Возможно ли сделать это в ? Пожалуйста, обратите внимание, что не обязательно время события.nnnttttttRttt

14 r  kaplan-meier 

Мне было интересно, учитывая одностороннюю (одностороннюю) гипотезу с альфа-уровнем .05, можем ли мы говорить о 95% доверительных интервалах? Например, можем ли мы построить отдельно «односторонний» и «двусторонний» доверительные интервалы для одностороннего Z или t теста? какова будет «интерпретация» каждого из этих доверительных интервалов с учетом одностороннего теста? Я немного запутался …

14 hypothesis-testing  confidence-interval