Статистика и большие данные

Мне любопытно заявление, сделанное внизу первой страницы в этом тексте относительно настройкиR2adjustedRadjusted2R^2_\mathrm{adjusted} R2adjusted=1−(1−R2)(n−1n−m−1).Radjusted2=1−(1−R2)(n−1n−m−1).R^2_\mathrm{adjusted} =1-(1-R^2)\left({\frac{n-1}{n-m-1}}\right). Текст гласит: Логика корректировки заключается в следующем: в обычной множественной регрессии случайный предиктор объясняет в среднем пропорцию 1/(n–1)1/(n–1)1/(n – 1) вариации ответа, так что mmm случайных предикторов объясняют вместе, в среднем, m/(n–1)m/(n–1)m/(n – 1) вариации ответа; …

12 regression  expected-value  goodness-of-fit  r-squared 

Интересно, почему иерархический софтмакс лучше подходит для нечастых слов, а отрицательная выборка лучше для частых слов в моделях CBOW и skip-грамм word2vec. Я прочитал претензию на https://code.google.com/p/word2vec/ .

12 natural-language  word2vec  word-embeddings  softmax 

Я считаю, что производная гауссовского процесса (ГП) - это другая ГП, и поэтому я хотел бы знать, существуют ли уравнения замкнутой формы для уравнений предсказания производной от ГП? В частности, я использую квадратичное экспоненциальное (также называемое гауссовским) ковариационное ядро ​​и хочу знать, как делать предсказания о производной гауссовского процесса.

12 stochastic-processes  gaussian-process  derivative 

Предпосылки: Здесь есть несколько замечательных вопросов / ответов о том, как калибровать модели, которые предсказывают вероятности того или иного исхода. Например Оценка Бриера и ее разложение на разрешение, неопределенность и надежность . Калибровочные графики и изотоническая регрессия . Эти методы часто требуют использования метода биннинга для прогнозируемых вероятностей, так что …

12 probability  predictive-models  binary-data  calibration  scoring-rules 

При моделировании данных подсчета претензий в страховой среде я начал с Пуассона, но затем заметил чрезмерную дисперсию. Квази-Пуассон лучше моделировал большее отношение средней дисперсии, чем основной Пуассон, но я заметил, что коэффициенты были идентичны как в модели Пуассона, так и в модели Квази-Пуассона. Если это не ошибка, почему это происходит? …

12 r  count-data  poisson-regression  overdispersion  quasi-likelihood 

Я изучаю линейную регрессию, используя Введение в анализ линейной регрессии Монтгомери, Пека и Вайнинга . Я хотел бы выбрать проект анализа данных. У меня наивная мысль, что линейная регрессия подходит только тогда, когда подозревают, что существуют линейные функциональные отношения между объясняющими переменными и переменной отклика. Но не так много реальных …

12 regression  data-transformation  model  linear  regression-strategies 

Я проверяю равенство средств, используя t-критерий Уэлча. Базовое распределение далеко от нормального (более искажено, чем пример в соответствующем обсуждении здесь ). Я могу получить больше данных, но хотел бы найти принципиальный способ определить, в какой степени это сделать. Существует ли хорошая эвристика для оценки приемлемости распределения выборки? Какие отклонения от …

12 normal-distribution  t-test  bootstrap  central-limit-theorem  approximation 

Я хотел бы запустить порядковую логистическую регрессию в Python - для переменной ответа с тремя уровнями и несколькими объяснительными факторами. statsmodelsПакет поддерживает двоичный логит и модель полиномиального логита (MNLogit), но не упорядоченную логит. Поскольку основополагающая математика не так уж отличается, мне интересно, может ли она быть легко реализована с помощью …

12 categorical-data  python  logit  ordered-logit  statsmodels 

Как указано в названии, скажите, что если я случайно выберу 4 карты, а вы вытянете 6 из одной колоды, какова вероятность того, что моя старшая карта превзойдет вашу старшую? Как это изменится, если мы будем рисовать из разных колод? Благодарность!

12 probability  maximum 

Я имею в виду вопрос и его ответы: как сравнить (вероятностную) прогностическую способность моделей, разработанных на основе логистической регрессии? @ Clark Chong и ответы / комментарии @Frank Harrell. и к вопросу о Степени свободы в тесте Хосмера-Лемешоуχ2χ2\chi^2 и комментариях. Я прочитал статью DW Hosmer, T. Hosmer, S. Le Cessie, S. …

12 hypothesis-testing  logistic  predictive-models  regression-strategies  hosmer-lemeshow-test 

Предположим, у меня есть панель объясняющих переменных , для i = 1 . , , N , t = 1 . , , Т , а также вектор двоичных результатов зависимых переменных У я Т . Таким образом, Y наблюдается только в последний момент времени T, а не в любое …

12 regression  machine-learning  reinforcement-learning 

Скажем, я использую RNN / LSTM для анализа настроений, который является подходом «многие к одному» (см. Этот блог ). Сеть обучается по усеченному обратному распространению по времени (BPTT), где сеть разворачивается всего за 30 последних шагов, как обычно. В моем случае каждый из моих текстовых разделов, которые я хочу классифицировать, …

12 neural-networks  deep-learning  natural-language  backpropagation 

Я новичок в машинном обучении, поэтому я пытаюсь найти некоторую литературу, но я даже не знаю, для чего Google. Мои данные имеют следующую форму: User A performs Action P User B performs Action Q User C performs Action R ... User C performs Action X User A performs Action Y …

12 machine-learning  cross-correlation 

Когда я открываю машинное обучение, я вижу разные интересные методы, такие как: автоматически настраивать алгоритмы с помощью таких методов, как grid search, получить более точные результаты за счет комбинации различных алгоритмов одного и того же «типа», это boosting, получить более точные результаты за счет сочетания различных алгоритмов (но не тот …

12 machine-learning  algorithms  boosting  stacking  automatic-algorithms 

Я изучаю, как построить 95% доверительный интервал для отношения шансов из коэффициентов, полученных в логистической регрессии. Итак, учитывая модель логистической регрессии, log(p1−p)=α+βxlog⁡(p1−p)=α+βx \log\left(\frac{p}{1 - p}\right) = \alpha + \beta x \newcommand{\var}{\rm Var} \newcommand{\se}{\rm SE} такой, что x=0x=0x = 0 для контрольной группы и x=1x=1x = 1 для группы случаев. Я …

12 logistic  confidence-interval  odds-ratio  delta-method