Статистика и большие данные

Предположим, что у нас есть модель .Yя= β0+ β1Икся 1+ β2Икся 2+ ⋯ + βКИкся к+ ϵяYязнак равноβ0+β1Икся1+β2Икся2+⋯+βКИксяК+εяY_i = \beta_0 + \beta_1X_{i1} + \beta_2X_{i2} + \dots + \beta_kX_{ik} + \epsilon_i Регрессия имеет ряд допущений, например, что ошибки должны обычно распределяться со средним нулем и постоянной дисперсией. Меня учили проверять эти …

10 regression  residuals  error 

У меня есть фрейм данных в Python, где мне нужно найти все категориальные переменные. Проверка типа столбца не всегда работает, потому что intтип также может быть категоричным. Поэтому я ищу помощь в поиске правильного метода проверки гипотез, чтобы определить, является ли столбец категоричным или нет. Я пробовал ниже критерия хи-квадрат, …

10 hypothesis-testing  categorical-data  python  chi-squared  categorical-encoding 

Я просматривал документацию по sklearn, но не смог понять назначение этих функций в контексте логистической регрессии. Ибо decision_functionон говорит, что это расстояние между гиперплоскостью и тестовым экземпляром. как эта конкретная информация полезна? и как это соотносится с predictи predict-probaметодами?

10 regression  logistic  prediction  scikit-learn  decision 

Я узнал о регрессии гауссовского процесса из онлайн-видео и заметок к лекциям, и я понимаю, что если у нас есть набор данных с точками, то мы предполагаем, что данные взяты из n- мерного многомерного гауссиана. Таким образом, мой вопрос в том случае, если n равно 10 из миллионов, регрессия гауссовского …

10 machine-learning  probability  inference  gaussian-process  multivariate-regression 

В документах DeepMind AlphaGo Zero и AlphaZero они описывают добавление шума Дирихле к предыдущим вероятностям действий от корневого узла (состояния платы) в Поиске дерева Монте-Карло: Дополнительное исследование достигается путем добавления шума Дирихле к предшествующим вероятностям в корневом узле , в частности, , где и ; этот шум гарантирует, что все …

10 machine-learning  neural-networks  dirichlet-distribution 

В качестве рутинного упражнения я пытаюсь найти распределение X2+Y2−−−−−−−√X2+Y2\sqrt{X^2+Y^2} где XXXиYYY- независимыеU(0,1)U(0,1) U(0,1)случайные величины. Плотность соединения (X,Y)(X,Y)(X,Y) равна fX,Y(x,y)=10&lt;x,y&lt;1fX,Y(x,y)=10&lt;x,y&lt;1f_{X,Y}(x,y)=\mathbf 1_{0\cos^{-1}\left(\frac{1}{z}\right), так какcosθcos⁡θ\cos\thetaуменьшается наθ∈[0,π2]θ∈[0,π2]\theta\in\left[0,\frac{\pi}{2}\right]; иzsinθ&lt;1⟹θ&lt;sin−1(1z)zsin⁡θ&lt;1⟹θ&lt;sin−1⁡(1z)z\sin\theta<1\implies\theta<\sin^{-1}\left(\frac{1}{z}\right), так какsinθsin⁡θ\sin\thetaувеличивается наθ∈[0,π2]θ∈[0,π2]\theta\in\left[0,\frac{\pi}{2}\right]. Итак, для 1&lt;z&lt;2–√1&lt;z&lt;21< z<\sqrt 2 , у нас естьcos−1(1z)&lt;θ&lt;sin−1(1z)cos−1⁡(1z)&lt;θ&lt;sin−1⁡(1z)\cos^{-1}\left(\frac{1}{z}\right)<\theta<\sin^{-1}\left(\frac{1}{z}\right). Абсолютное значение якобиана преобразования составляет |J|=z|J|=z|J|=z Таким образом, плотность соединения (Z,Θ)(Z,Θ)(Z,\Theta) определяется как fZ,Θ(z,θ)=z1{z∈(0,1),θ∈(0,π/2)}⋃{z∈(1,2√),θ∈(cos−1(1/z),sin−1(1/z))}fZ,Θ(z,θ)=z1{z∈(0,1),θ∈(0,π/2)}⋃{z∈(1,2),θ∈(cos−1⁡(1/z),sin−1⁡(1/z))}f_{Z,\Theta}(z,\theta)=z\mathbf …

10 self-study  distributions  mathematical-statistics  uniform 

Интересно, являются ли условные вероятности уникальными для байесовского подхода, или они являются более общей концепцией, которая разделяется между несколькими школами мысли среди статистиков / вероятностных людей. Я как бы полагаю, что это так, потому что я предполагаю, что никто не может отчасти логично, так что я думаю, что частые люди, …

10 bayesian  conditional-probability 

Я внедрял VAE и заметил в Интернете две разные реализации упрощенной однофакторной гауссовой дивергенции KL. Исходная дивергенция, здесь, выглядит следующим образом: Если мы предположим, что наша единица является т.е. и \ sigma_2 = 1 , это упрощается до KL_ {loss} = - \ log (\ sigma_1) + \ frac {\ …

10 inference  kullback-leibler  autoencoders  variational-bayes 

Когда я начал читать о фильтре Калмана, он подумал, что это особый случай модели ARIMA (а именно ARIMA (0,1,1)). Но на самом деле кажется, что ситуация сложнее. Прежде всего, ARIMA можно использовать для прогнозирования, а фильтр Калмана - для фильтрации. Но разве они не тесно связаны? Вопрос: Какова связь между …

10 time-series  bayesian  arima  kalman-filter 

Мой набор данных ( ) имеет зависимую переменную (DV), пять независимых «базовых» переменных (P1, P2, P3, P4, P5) и одну независимую интересующую переменную (Q).N≈ 10 , 000N≈10,000N \approx 10,000 Я запустил линейные регрессии OLS для следующих двух моделей: DV ~ 1 + P1 + P2 + P3 + P4 + …

10 regression  linear  r-squared 

В статье под названием « Глубокое обучение и принцип узкого места в информации» авторы утверждают в разделе II А) следующее: Одиночные нейроны классифицируют только линейно разделимые входы, поскольку они могут реализовывать только гиперплоскости в своем входном пространстве u=wh+bu=wh+bu = wh+b . Гиперплоскости могут оптимально классифицировать данные, когда входные данные условно …

10 bayesian  neural-networks  information-theory 

Случайные функции Фурье обеспечивают приближение к функциям ядра. Они используются для различных методов ядра, таких как SVM и гауссовские процессы. Сегодня я попытался использовать реализацию TensorFlow и получил отрицательные значения для половины своих функций. Насколько я понимаю, этого не должно быть. Поэтому я вернулся к первоначальной статье , в которой, …

10 machine-learning  kernel-smoothing  feature-construction  tensorflow  fourier-transform 

Для непрерывной случайной величины XXX , если E(|X|)E(|X|)E(|X|) конечно, limn→∞nP(|X|&gt;n)=0limn→∞nP(|X|&gt;n)=0\lim_{n\to\infty}n P(|X|>n)=0 ? Это проблема, которую я обнаружил в Интернете, но я не уверен, имеет ли она место или нет. Я знаю, что nP(|X|&gt;n)&lt;E(|X|)nP(|X|&gt;n)&lt;E(|X|)n P(|X|>n)<E(|X|) имеет место по неравенству Маркова, но я не могу показать, что оно равно 0, а nnn …

10 probability  expected-value  probability-inequalities 

Я наткнулся на термин inlier в показателе LOF (Local Outlier Factor), я знаком с термином выбросов (ну в основном лжи - экземпляры, которые не ведут себя как остальные экземпляры). Что означает «Inliers» в контексте обнаружения аномалий? и как это связано с (отличными от) выбросами?

10 residuals  outliers  anomaly-detection 

В недавней статье WaveNet авторы ссылаются на свою модель как на сложенные слои расширенных извилин. Они также производят следующие диаграммы, объясняющие разницу между «обычными» сверточными и дилатационными сверточками. Обычные свертки выглядят так: Это свертка с размером фильтра 2 и шагом 1, повторяющимся для 4 слоев. Затем они показывают архитектуру, используемую …

10 neural-networks  deep-learning  conv-neural-network  tensorflow