Статистика и большие данные

Следующий вопрос - один из тех святых Граалей для меня в течение некоторого времени, я надеюсь, что кто-то сможет дать хороший совет. Я хочу выполнить непараметрические повторные измерения многоходового анова с использованием R. Некоторое время я занимался поиском и чтением в Интернете и до сих пор смог найти решения только …

16 r  anova  repeated-measures  nonparametric  manova 

Мне любопытно, почему мы относимся к подгонке GLMS, как к какой-то особой проблеме оптимизации. Они? Мне кажется, что это просто максимальная вероятность, и мы записываем вероятность, а затем ... мы максимизируем ее! Так почему же мы используем оценку Фишера вместо множества схем оптимизации, разработанных в прикладной математической литературе?

16 generalized-linear-model  optimization  fisher-scoring 

Я пытаюсь получить глобальный взгляд на некоторые основные идеи в машинном обучении, и мне было интересно, существует ли комплексный подход к различным понятиям потери (квадрат, лог, шарнир, прокси и т. Д.). Я думал о чем-то вроде более полной, формальной презентации превосходного поста Джона Лэнгфорда о семантике функции потери .

16 references  loss-functions 

Процедура EM кажется непосвященным более или менее черной магией. Оцените параметры HMM (например), используя контролируемые данные. Затем декодируйте непомеченные данные, используя прямую перемотку назад для «подсчета» событий, как если бы данные были помечены, более или менее. Почему это делает модель лучше? Я кое-что знаю о математике, но я продолжаю хотеть …

16 expectation-maximization  intuition 

У меня есть парных наблюдений ( X i , Y i ), взятых из общего неизвестного распределения, которое имеет конечные первый и второй моменты и симметрично относительно среднего.NNNXiИксяX_iYiYяY_i Пусть стандартное отклонение X (безусловное на Y ), а σ Y то же самое для Y. Я хотел бы проверить гипотезу σXσИкс\sigma_XXИксXYYYσYσY\sigma_Y …

16 distributions  hypothesis-testing  standard-deviation  normal-distribution 

Эконометрики часто говорят о временных рядах, интегрируемых с порядком k, I (k) . k - минимальное количество разностей, необходимых для получения стационарного временного ряда. Какие методы или статистические тесты можно использовать для определения, с учетом уровня достоверности, порядка интегрирования временных рядов?

16 time-series 

Недавно два разных сотрудника использовали своего рода аргумент о различиях между условиями, которые мне кажутся некорректными. Оба этих сотрудника используют статистику, но они не являются статистиками. Я новичок в статистике. В обоих случаях я утверждал, что, поскольку в эксперименте не было существенной разницы между двумя условиями, было неверно делать общее …

16 statistical-significance 

Я просматривал документацию Стэна, которую можно скачать отсюда . Я был особенно заинтересован в их реализации диагностики Гельмана-Рубина. Оригинальная статья Gelman & Rubin (1992) определяет потенциальный коэффициент уменьшения масштаба (PSRF) следующим образом: Пусть быть я й пробы цепь Маркова, и пусть будет в целом M независимые цепи выборочные. Пусть ˉ …

16 mcmc  convergence  gibbs  metropolis-hastings  stan 

Я пытаюсь прочитать об исследованиях в области регрессии больших размеров; когда больше , то есть . Похоже, термин часто встречается в терминах скорости сходимости для оценок регрессии.pppnnnp>>np>>np >> nlogp/nlog⁡p/n\log p/n Например, здесь уравнение (17) говорит, что для подгонки лассо удовлетворяет β^β^\hat{\beta}1n∥Xβ^−Xβ∥22=OP(σlogpn−−−−−√∥β∥1).1n‖Xβ^−Xβ‖22=OP(σlog⁡pn‖β‖1). \dfrac{1}{n}\|X\hat{\beta} - X \beta\|_2^2 = O_P \left(\sigma \sqrt{\dfrac{\log p}{n} …

16 regression  lasso  convergence  high-dimensional 

Это вопрос терминологии. Иногда я вижу, что люди называют глубокие нейронные сети «многослойными персептронами», почему это так? Как мне преподавали, персептрон - это однослойный классификатор (или регрессор) с двоичным пороговым выходным значением, использующий определенный способ тренировки весов (не back-prop). Если выходные данные персептрона не совпадают с выходными данными цели, мы …

16 neural-networks  perceptron 

У меня есть большой набор данных о загрязнении, который регистрируется каждые 10 минут в течение двух лет, однако в этих данных есть ряд пробелов (в том числе некоторые, которые проводятся по несколько недель за раз). Данные кажутся довольно сезонными, и в течение дня наблюдаются большие различия по сравнению с ночью, …

16 time-series  missing-data  data-imputation 

В чем разница между марковскими цепями и марковскими процессами? Я читаю противоречивую информацию: иногда определение основано на том, является ли пространство состояний дискретным или непрерывным, а иногда - на том, является ли время дискретным или непрерывным. Слайд 20 этого документа : Марковский процесс называется цепью Маркова, если пространство состояний дискретно, …

16 terminology  stochastic-processes  markov-process 

Мой вопрос: какова математическая связь между распределением Бета и коэффициентами модели логистической регрессии ? Для иллюстрации: логистическая (сигмоидальная) функция задается f(x)=11+exp(−x)f(x)=11+exp⁡(−x)f(x) = \frac{1}{1+\exp(-x)} и он используется для моделирования вероятностей в модели логистической регрессии. Пусть AAA - дихотомический (0,1)(0,1)(0,1) результат, а XXX - матрица дизайна. Модель логистической регрессии задается P(A=1|X)=f(Xβ).P(A=1|X)=f(Xβ).P(A=1|X) = …

16 regression  logistic  mathematical-statistics  beta-distribution 

В книге распознавания образов и машинного обучения (формула 1.27) она дает py(y)=px(x)∣∣∣dxdy∣∣∣=px(g(y))|g′(y)|py(y)=px(x)|dxdy|=px(g(y))|g′(y)|p_y(y)=p_x(x) \left | \frac{d x}{d y} \right |=p_x(g(y)) | g'(y) | гдеx=g(y)x=g(y)x=g(y),px(x)px(x)p_x(x) - это pdf, соответствующийpy(y)py(y)p_y(y) отношению к изменению переменной. В книгах говорится, что это потому, что наблюдения, попадающие в диапазон (x,x+δx)(x,x+δx)(x, x + \delta x) , при малых …

16 machine-learning  probability  self-study  derivative  jacobian 

Я построил кривую ROC для диагностической системы. Площадь под кривой была непараметрически оценена как AUC = 0,89. Когда я попытался вычислить точность при оптимальной настройке порога (точка, ближайшая к точке (0, 1)), я получил точность диагностической системы равной 0,8, что меньше, чем AUC! Когда я проверил точность при другой настройке …

16 roc  reliability  accuracy  auc