Статистика и большие данные

Когда я читаю сайт, большинство ответов показывают, что перекрестная проверка должна выполняться в алгоритмах машинного обучения. Однако, когда я читал книгу «Понимание машинного обучения», я увидел, что есть упражнение, в котором иногда лучше не использовать перекрестную проверку. Я действительно смущен. Когда алгоритм обучения на всех данных лучше, чем перекрестная проверка? …

10 machine-learning  self-study  cross-validation 

Я хотел бы найти несколько «реальных примеров» для преподавания байесовской статистики. Байесовская статистика позволяет формально включить предыдущие знания в анализ. Я хотел бы привести студентам несколько простых примеров из реальной жизни, в которых исследователи включили в свой анализ предшествующие знания, чтобы студенты могли лучше понять мотивацию, по которой можно в …

10 bayesian  teaching 

У меня есть некоторые наблюдения, и я хочу повторить выборку на основе этих наблюдений. Здесь я рассматриваю непараметрическую модель, в частности, я использую сглаживание ядра для оценки CDF из ограниченных наблюдений. Затем я рисую значения случайным образом из полученного CDF. Ниже приведен мой код (идея состоит в том, чтобы случайным …

10 sampling  matlab  kernel-smoothing  density-estimation 

Аксиоматически, вероятность - это функция которая присваивает действительное число каждому событию если оно удовлетворяет трем основным предположениям (предположениям Колмогорова):PPPP(A)P(A)P(A)AAA P(A)≥0 for everyAP(A)≥0 for everyAP(A) \geq 0 \ \text{for every} A P(Ω)=1P(Ω)=1P(\Omega) = 1 If A1,A2,⋯are disjoint, thenP(⋃∞i=1Ai)=∑i=1∞P(Ai)If A1,A2,⋯are disjoint, thenP(⋃i=1∞Ai)=∑i=1∞P(Ai)\text{If} \ A_1, A_2, \cdots \text{are disjoint, then}\\ P\left(\bigcup_{i=1}^{\infty}A_i\right) = \sum\limits_{i=1}^{\infty}P(A_i) …

10 probability  kolmogorov-axioms 

Стандартное обучение говорит, что чувствительность и специфичность являются свойствами теста и не зависят от распространенности. Но разве это не предположение? Принципы внутренней медицины Харрисона 19-е издание говорит Давно утверждается, что чувствительность и специфичность являются независимыми от распространенности параметрами точности теста, и многие тексты все еще делают это утверждение. Это статистически …

10 bayesian  epidemiology  diagnostic  sensitivity-specificity 

Мое понимание того, что такое оценщик и оценка: Оценщик: правило для вычисления оценки. Оценка: значение, рассчитанное на основе набора данных, основанного на оценщике. Между этими двумя терминами, если меня попросят указать случайную переменную, я бы сказал, что оценка является случайной величиной, поскольку ее значение будет меняться случайным образом в зависимости …

10 mathematical-statistics  inference  random-variable  estimators 

У меня нет конкретного примера или задачи. Я просто новичок в использовании b-сплайнов, и я хотел лучше понять эту функцию в контексте регрессии. Давайте предположим, что мы хотим оценить взаимосвязь между переменной ответа и некоторыми предикторами . Предикторы включают некоторые числовые переменные, а также некоторые категориальные.YYyИкс1, х2, . , , …

10 regression  multiple-regression  splines  polynomial  penalized 

Это часто упоминается, когда упоминается проклятие размерности и идет (формула справа называется относительным контрастом) Итd→ ∞вар ( | | Xd| |КЕ[ | | Иксd| |К]) =0,то: DМаксимумКd- DминКdDминКd→ 0Итd→∞вар(||Иксd||КЕ[||Иксd||К])знак равно0,тогда:DМаксимумdК-DминdКDминdК→0 \lim_{d\rightarrow \infty} \text{var} \left(\frac{||X_d||_k}{E[||X_d||_k]} \right) = 0, \text{then}: \frac{D_{\max^{k}_{d}} - D_{\min^{k}_{d}}}{D_{\min^{k}_{d}}} \rightarrow 0 Результат теоремы показывает, что разница между максимальным …

10 machine-learning  distance-functions  high-dimensional 

Теорема Питмана – Купмана – Дармуа гласит, что если выборка iid из параметризованного семейства вероятностных распределений допускает достаточную статистику, число скалярных компонент которой не растет с размером выборки, то это экспоненциальное семейство. Какие-нибудь учебники или элементарные пояснительные работы дают доказательства? Почему он назван в честь этих трех человек?

10 mathematical-statistics  references 

Я работаю над статьей Cho 2014, в которой была представлена ​​архитектура кодер-декодер для моделирования seq2seq. В статье они, похоже, используют вероятность выходных данных при заданном входном сигнале (или его отрицательной логарифмической вероятности) в качестве функции потерь для входного сигнала длины и выходного сигнала длины :xxxMMMyyyNNN P(y1,…,yN|x1,…,xM)=P(y1|x1,…,xm)P(y2|y1,x1,…,xm)…P(yN|y1,…,yN−1,x1,…,xm)P(y1,…,yN|x1,…,xM)=P(y1|x1,…,xm)P(y2|y1,x1,…,xm)…P(yN|y1,…,yN−1,x1,…,xm)P(y_1, …, y_N | x_1, …

10 deep-learning  loss-functions  rnn 

Частое упрощение в моделировании и симуляции заключается в замене случайной величины ее средним значением. Когда это упрощение приведет к неправильному выводу?

10 modeling  mean  random-variable 

Ниже приводится вопрос о множестве визуализаций, предлагаемых в качестве «доказательства по картинке» о существовании парадокса Симпсона, и, возможно, вопрос о терминологии. Парадокс Симпсона - довольно простое явление, которое можно описать и привести числовые примеры (причина, по которой это может произойти, глубока и интересна). Парадокс заключается в том, что существуют таблицы …

10 mathematical-statistics  data-visualization  causality  contingency-tables  simpsons-paradox 

Пусть - независимые стандартные нормальные случайные величины. Есть много (длинных) доказательств, показывающих, чтоZ1,⋯,ZnZ1,⋯,ZnZ_1,\cdots,Z_n ∑i=1n(Zi−1n∑j=1nZj)2∼χ2n−1∑i=1n(Zi−1n∑j=1nZj)2∼χn−12 \sum_{i=1}^n \left(Z_i - \frac{1}{n}\sum_{j=1}^n Z_j \right)^2 \sim \chi^2_{n-1} Многие доказательства довольно длинные, и некоторые из них используют индукцию (например, Статистический вывод Казеллы). Мне интересно, есть ли какое-нибудь легкое доказательство этого результата.

10 mathematical-statistics  sampling 

Предположим, у нас есть 3 случайные величины , и мы знаем попарно маргинальное распределение P ( X 1 , X 2 ) , P ( X 2 , X 3 ) , P ( X 3 , X 1 ) , но мы больше ничего не знаем (например, условная независимость). …

10 probability  distributions 

Как называется оператор, который берет категориальный вектор и преобразует его в двоичное представление, используя горячее кодирование? Я задаюсь вопросом, так как я пишу научную статью и нужное имя для этого.

10 terminology  categorical-encoding