Статистика и большие данные

Фрэнк Харрелл завел блог ( статистическое мышление) . В своем главном посту он перечисляет некоторые ключевые особенности своей статистической философии. Среди прочих предметов в него входят: Сделайте размер выборки случайной величиной, если это возможно Что значит «сделать размер выборки случайной величиной»? Каковы преимущества этого? Почему это может быть предпочтительнее?

18 sample-size  random-variable  regression-strategies 

Мне просто интересно, будет ли применяться байесовская статистика последовательно от первого исследования к последнему, если это сделает метаанализ устаревшим. Например, предположим, что 20 исследований были проведены в разные моменты времени. Оценка или распределение первого исследования были сделаны с неинформативным априором. Второе исследование использует апостериорное распределение как предыдущее. Новое апостериорное распределение …

18 bayesian  meta-analysis 

Бета-распределение появляется при двух параметризации (или здесь ) f(x)∝xα(1−x)β(1)(1)f(x)∝xα(1−x)β f(x) \propto x^{\alpha} (1-x)^{\beta} \tag{1} или тот, который, кажется, используется чаще f(x)∝xα−1(1−x)β−1(2)(2)f(x)∝xα−1(1−x)β−1 f(x) \propto x^{\alpha-1} (1-x)^{\beta-1} \tag{2} Но почему именно « » во второй формуле?−1−1-1 Кажется, что первая формулировка более точно соответствует биномиальному распределению g(k)∝pk(1−p)n−k(3)(3)g(k)∝pk(1−p)n−k g(k) \propto p^k (1-p)^{n-k} \tag{3} но …

18 distributions  references  beta-distribution  history  beta-binomial 

Если имеет полный ранг, существует обратное к и мы получаем оценку наименьших квадратов: иХ Т Х β = ( Х Т Х ) - 1 х YXXXXTXXTXX^TXβ^=(XTX)−1XYβ^=(XTX)−1XY\hat\beta = (X^TX)^{-1}XYVar(β^)=σ2(XTX)−1Var⁡(β^)=σ2(XTX)−1\operatorname{Var}(\hat\beta) = \sigma^2(X^TX)^{-1} Как мы можем интуитивно объяснить в формуле дисперсии? Техника деривации для меня понятна.(XTX)−1(XTX)−1(X^TX)^{-1}

18 regression  variance  least-squares 

Закрыто . Этот вопрос основан на мнении . В настоящее время не принимает ответы. Хотите улучшить этот вопрос? Обновите вопрос, чтобы ответить на него фактами и цитатами, отредактировав этот пост . Закрыто 2 года назад . Что вы думаете о передискретизации в классификации в целом и алгоритме SMOTE в частности? …

18 machine-learning  classification  oversampling 

Правда ли, что для двух случайных величин и ,AAABBB E(A∣B)=E(B∣A)E(A)E(B)?E(A∣B)=E(B∣A)E(A)E(B)?E(A\mid B)=E(B\mid A)\frac{E(A)}{E(B)}?

18 bayesian  mathematical-statistics 

Я изучал математику десять лет назад, поэтому у меня есть знания по математике и статистике, но этот вопрос меня убивает. Этот вопрос все еще немного философский для меня. Почему статистики разработали все виды методов для работы со случайными матрицами? Я имею в виду, случайный вектор не решил проблему? Если нет, …

18 distributions  mathematical-statistics  random-variable  random-matrix 

Я пытаюсь понять математический смысл нелинейных классификационных моделей: Я только что прочитал статью о том, что нейронные сети являются нелинейной классификационной моделью. Но я просто понимаю, что: Первый слой: h1=x1∗wx1h1+x2∗wx1h2h1=x1∗wx1h1+x2∗wx1h2h_1=x_1∗w_{x1h1}+x_2∗w_{x1h2} h2=x1∗wx2h1+x2∗wx2h2h2=x1∗wx2h1+x2∗wx2h2h_2=x_1∗w_{x2h1}+x_2∗w_{x2h2} Последующий слой y=b∗wby+h1∗wh1y+h2∗wh2yy=b∗wby+h1∗wh1y+h2∗wh2yy=b∗w_{by}+h_1∗w_{h1y}+h_2∗w_{h2y} Можно упростить до = b ' + ( x1∗ шх 1 ч 1+ х2∗ шх 1 …

18 neural-networks  nonlinear-regression  nonlinear 

На этом сайте психометрии я читал, что [A] та глубокая дисперсия уровня является более фундаментальной концепцией, чем стандартное отклонение. Сайт на самом деле не объясняет, почему дисперсия должна быть более фундаментальной, чем стандартное отклонение, но она напомнила мне, что я читал некоторые похожие вещи на этом сайте. Например, в этом …

18 variance  standard-deviation 

Рассмотрим элементарную идентичность дисперсии: Var(X)===E[(X−E[X])2]...E[X2]−(E[X])2Var(X)=E[(X−E[X])2]=...=E[X2]−(E[X])2 \begin{eqnarray} Var(X) &=& E[(X - E[X])^2]\\ &=& ...\\ &=& E[X^2] - (E[X])^2 \end{eqnarray} Это простая алгебраическая манипуляция с определением центрального момента в нецентральные моменты. Это позволяет удобно манипулировать в других контекстах. Это также позволяет вычислить дисперсию с помощью одного прохода данных, а не двух проходов, …

18 variance  descriptive-statistics  intuition 

Я изучаю статистику и часто сталкиваюсь с формулами, содержащими, logи я всегда сбит с толку, если я должен интерпретировать это как стандартное значение log, то есть основание 10, или если в статистике символ log обычно считается натуральным логарифмом ln. В частности, я изучаю оценку частоты Тьюринга в качестве примера, но …

18 mathematical-statistics  notation  logarithm 

Я пытаюсь подогнать регрессию, чтобы объяснить количество убийств в каждом районе города. Хотя я знаю, что мои данные соответствуют распределению Пуассона, я попытался подобрать OLS следующим образом: л о г( у+ 1 ) = α + βИкс+ ϵlog(y+1)=α+βX+ϵlog(y+1) = \alpha + \beta X + \epsilon Затем я также попробовал (конечно!) …

18 regression  least-squares  poisson-regression 

Я провожу некоторое время, изучая машинное обучение (извините за рекурсию :), и я не мог не заинтриговать эмпирическое правило выбора градиентного спуска вместо прямого решения уравнений для вычисления коэффициентов регрессии, в случае многомерной линейной регрессии. 10 , 000 - 1 , 000 , 00010,000-1,000,00010,000 - 1,000,000 В вычислительном отношении, я …

18 machine-learning  multiple-regression  large-data 

Пусть - стандартное броуновское движение. Пусть обозначает событие и пусть где обозначает функцию индикатора. Существует ли такое, что для для всех ? Я подозреваю, что ответ - да; Я пытался возиться с методом второго момента, но без особой пользы. Можно ли это показать методом второго момента? Или я должен попробовать …

18 probability  self-study  moments  distributions  brownian 

Я пытаюсь сравнить сложность вычислений / скорость оценки трех групп методов для линейной регрессии, как это различается в Hastie et al. «Элементы статистического обучения» (2-е изд.), Глава 3: Выбор подмножества Методы усадки Методы с использованием производных направлений ввода (PCR, PLS) Сравнение может быть очень грубым, просто чтобы дать некоторое представление. …

18 machine-learning  estimation  feature-selection  algorithms  time-complexity