Вопросы с тегом «convergence»

Обозначим через биномиальную функцию распределения (DF) с параметрами и вычисленными при : и пусть обозначает пуассоновский DF с параметром оцененным при : B(n,p,r)B(n,p,r)B(n,p,r)n∈Nn∈Nn \in \mathbb Np∈(0,1)p∈(0,1)p \in (0,1)r∈{0,1,…,n}r∈{0,1,…,n}r \in \{0,1,\ldots,n\}B(n,p,r)=∑i=0r(ni)pi(1−p)n−i,B(n,p,r)=∑i=0r(ni)pi(1−p)n−i,\begin{equation} B(n,p,r) = \sum_{i=0}^r \binom{n}{i} p^i (1-p)^{n-i}, \end{equation}F(ν,r)F(ν,r)F(\nu,r)a∈R+a∈R+a \in \mathbb R^+r∈{0,1,2,…}r∈{0,1,2,…}r \in \{0,1,2,\ldots\}F(a,r)=e−a∑i=0raii!.F(a,r)=e−a∑i=0raii!.\begin{equation} F(a,r) = e^{-a} \sum_{i=0}^r \frac{a^i}{i!}. \end{equation} Рассмотрим p→0p→0p …

30 binomial  poisson-distribution  convergence  probability-inequalities 

Когда я использую GAM, он дает мне остаточный DF, (последняя строка в коде). Что это значит? Выходя за рамки примера GAM, в общем, может ли число степеней свободы быть нецелым числом?26,626.626.6 > library(gam) > summary(gam(mpg~lo(wt),data=mtcars)) Call: gam(formula = mpg ~ lo(wt), data = mtcars) Deviance Residuals: Min 1Q Median 3Q …

27 r  degrees-of-freedom  gam  machine-learning  pca  lasso  probability  self-study  bootstrap  expected-value  regression  machine-learning  linear-model  probability  simulation  random-generation  machine-learning  distributions  svm  libsvm  classification  pca  multivariate-analysis  feature-selection  archaeology  r  regression  dataset  simulation  r  regression  time-series  forecasting  predictive-models  r  mean  sem  lavaan  machine-learning  regularization  regression  conv-neural-network  convolution  classification  deep-learning  conv-neural-network  regression  categorical-data  econometrics  r  confirmatory-factor  scale-invariance  self-study  unbiased-estimator  mse  regression  residuals  sampling  random-variable  sample  probability  random-variable  convergence  r  survival  weibull  references  autocorrelation  hypothesis-testing  distributions  correlation  regression  statistical-significance  regression-coefficients  univariate  categorical-data  chi-squared  regression  machine-learning  multiple-regression  categorical-data  linear-model  pca  factor-analysis  factor-rotation  classification  scikit-learn  logistic  p-value  regression  panel-data  multilevel-analysis  variance  bootstrap  bias  probability  r  distributions  interquartile  time-series  hypothesis-testing  normal-distribution  normality-assumption  kurtosis  arima  panel-data  stata  clustered-standard-errors  machine-learning  optimization  lasso  multivariate-analysis  ancova  machine-learning  cross-validation 

Какова интуитивная разница между случайной величиной, сходящейся по вероятности, и случайной величиной, сходящейся по распределению? Я прочитал множество определений и математических уравнений, но это не очень помогает. (Пожалуйста, имейте в виду, я студент, изучающий эконометрику.) Как случайная величина может сходиться к одному числу, но также сходиться к распределению?

26 distributions  random-variable  convergence  intuition 

Я прочитал несколько объяснений алгоритма EM (например, из Бишопа «Распознавание образов и машинное обучение» и из «Первого курса по машинному обучению» Роджера и Джеролами). Вывод ЭМ в порядке, я понимаю это. Я также понимаю, почему алгоритм охватывает что-то: на каждом шаге мы улучшаем результат, и вероятность ограничена 1,0, поэтому, используя …

24 missing-data  convergence  expectation-maximization 

Максимум iid Стандартные нормальности сходятся к стандартному распределению Гамбеля в соответствии с теорией экстремальных значений .Икс1, … , XN, ~Икс1,...,ИксN,~X_1,\dots,X_n. \sim Как мы можем показать это? У нас есть п( максимум Xя≤ x ) = P( X1≤ х , … , хN≤ x ) = P( X1≤ x ) ⋯ …

21 probability  normal-distribution  convergence  extreme-value 

Сходится ли нормальное распределение к определенному, если стандартное отклонение растет без границ? мне кажется, что pdf начинает выглядеть как равномерное распределение с границами, заданными . Это правда?[−2σ,2σ][−2σ,2σ][-2 \sigma, 2 \sigma]

18 normal-distribution  convergence 

Проблема возникла раньше, но я хочу задать конкретный вопрос, который попытается получить ответ, который прояснит (и классифицирует) его: В «Асимптотике бедного человека» проводится четкое различие между (а) последовательность случайных величин, сходящаяся по вероятности к константе в отличие от (б) последовательность случайных величин, которая сходится по вероятности к случайной переменной (и, …

18 mathematical-statistics  variance  convergence  asymptotics  consistency 

У меня есть вопрос новичка относительно центральной предельной теоремы (CLT): Мне известно, что CLT утверждает, что среднее значение случайных величин iid приблизительно нормально распределено (для , где - индекс слагаемых), или что стандартизированная случайная величина будет иметь стандартное нормальное распределение.nn → ∞n→∞n \to \inftyNnn Теперь закон большого числа гласит, что …

18 probability  normal-distribution  convergence  central-limit-theorem  law-of-large-numbers 

Достаточно ли показать, что MSE = 0 при n→∞n→∞n\rightarrow\infty ? Я также прочитал в своих заметках кое-что о плиме. Как мне найти plim и использовать его, чтобы показать, что оценка соответствует?

17 estimation  convergence  consistency 

Я читал, что алгоритм k-средних сходится только к локальному минимуму, а не к глобальному минимуму. Почему это? Я могу логически подумать о том, как инициализация может повлиять на окончательную кластеризацию, и есть вероятность неоптимальной кластеризации, но я не нашел ничего, что математически доказало бы это. Кроме того, почему k-означает итеративный …

17 clustering  k-means  convergence  gradient-descent  minimum 

(Первоначально опубликовано на MSE.) Я видел много эвристических обсуждений классической центральной предельной теоремы, говорящей о нормальном распределении (или любом из устойчивых распределений) как об «аттракторе» в пространстве плотностей вероятностей. Например, рассмотрим эти предложения в верхней части Википедии лечения : В более общем использовании центральная предельная теорема - это любая из …

16 probability  mathematical-statistics  convergence  central-limit-theorem  convolution 

Я использую glmerфункцию из lme4пакета в R, и я использую bobyqaоптимизатор (т.е. по умолчанию в моем случае). Я получаю предупреждение, и мне любопытно, что это значит. Warning message: In optwrap(optimizer, devfun, start, rho$lower, control = control, : convergence code 3 from bobyqa: bobyqa -- a trust region step failed to …

16 r  optimization  lme4-nlme  convergence  glmm 

Я просматривал документацию Стэна, которую можно скачать отсюда . Я был особенно заинтересован в их реализации диагностики Гельмана-Рубина. Оригинальная статья Gelman & Rubin (1992) определяет потенциальный коэффициент уменьшения масштаба (PSRF) следующим образом: Пусть быть я й пробы цепь Маркова, и пусть будет в целом M независимые цепи выборочные. Пусть ˉ …

16 mcmc  convergence  gibbs  metropolis-hastings  stan 

Я пытаюсь прочитать об исследованиях в области регрессии больших размеров; когда больше , то есть . Похоже, термин часто встречается в терминах скорости сходимости для оценок регрессии.pppnnnp>>np>>np >> nlogp/nlog⁡p/n\log p/n Например, здесь уравнение (17) говорит, что для подгонки лассо удовлетворяет β^β^\hat{\beta}1n∥Xβ^−Xβ∥22=OP(σlogpn−−−−−√∥β∥1).1n‖Xβ^−Xβ‖22=OP(σlog⁡pn‖β‖1). \dfrac{1}{n}\|X\hat{\beta} - X \beta\|_2^2 = O_P \left(\sigma \sqrt{\dfrac{\log p}{n} …

16 regression  lasso  convergence  high-dimensional 

Мои вопросы: Обязательно ли обобщенные линейные модели (GLM) сходятся к глобальному максимуму? Если так, то почему? Кроме того, какие ограничения существуют для функции связи для обеспечения выпуклости? Мое понимание GLM состоит в том, что они максимизируют крайне нелинейную функцию правдоподобия. Таким образом, я бы предположил, что существует несколько локальных максимумов, …

16 generalized-linear-model  optimization  convergence  exponential-family