Статистика и большие данные

Учитывая две случайные величины ξξ\xi и ηη\eta мы можем вычислить их «коэффициент корреляции» ccc и сформировать линию наилучшего соответствия между этими двумя случайными переменными. У меня вопрос почему? 1) Существуют случайные величины, ξξ\xi и ηη\eta которые зависят наихудшим образом, т. ξ=f(η)ξ=f(η)\xi = f(\eta) и, несмотря на это, c=0c=0c=0 . Если …

13 regression 

В книге Бишопа по машинному обучению обсуждается проблема подгонки полиномиальной функции к набору точек данных. Пусть M - порядок подогнанного многочлена. Это утверждает, что Мы видим, что с увеличением M величина коэффициентов обычно становится больше. В частности, для полинома M = 9 коэффициенты были точно настроены на данные путем разработки …

13 regression  least-squares  curve-fitting  polynomial 

Я хочу знать, что это такое, и чем оно отличается от ансамбля? Предположим, я хочу добиться высокой точности в классификации и сегментации для конкретной задачи, если для этого я использую разные сети, такие как CNN, RNN и т. Д., Называется ли это сквозной моделью? (архитектура?) или нет?

13 machine-learning  terminology  deep-learning 

Недавно я просмотрел несколько старых работ Нэнси Рейд, Барндорфа-Нильсена, Ричарда Кокса и, да, маленького Рональда Фишера о понятии «условный вывод» в парадигме частоты, что, по-видимому, означает, что выводы основаны на рассмотрении только «соответствующее подмножество» пробного пространства, а не всего пробного пространства. В качестве ключевого примера известно, что доверительные интервалы, основанные …

13 confidence-interval  maximum-likelihood  inference 

При инициализации весов соединений в нейронной сети с прямой связью важно инициализировать их случайным образом, чтобы избежать любых симметрий, которые алгоритм обучения не сможет нарушить. Рекомендация, которую я видел в разных местах (например, в учебнике MNIST от TensorFlow ), заключается в использовании усеченного нормального распределения с использованием стандартного отклонения , …

13 neural-networks  backpropagation  weights  truncated-normal 

В своем блоге физик Стив Сюй написал следующее: Исходя из нормального распределения, в США всего около 10000 человек, которые показывают уровень + 4SD и такое же число в Европе, так что это довольно выборочное население (примерно, несколько сотен старших школьников в год в США). Если вы экстраполируете числа жителей азиатских …

13 normal-distribution 

Справочная информация: Недавно я понял на более глубоком уровне важность увеличения данных при обучении сверточных нейронных сетей, увидев этот прекрасный доклад Джеффри Хинтона . Он объясняет, что сверточные нейронные сети текущего поколения не способны обобщить систему отсчета тестируемого объекта, что затрудняет для сети истинное понимание того, что зеркальные изображения объекта …

13 machine-learning  deep-learning 

Итак, у меня есть случайный процесс генерирования лог-нормально распределенных случайных величин . Вот соответствующая функция плотности вероятности:XXX Я хотел оценить распределение нескольких моментов этого исходного распределения, скажем, 1-го момента: среднее арифметическое. Для этого 10000 раз я нарисовал 100 случайных величин, чтобы вычислить 10000 оценок среднего арифметического. Есть два разных способа …

13 estimation  bias  fitting  lognormal  moments 

Насколько я знаю, разница между логистической моделью и моделью дробного отклика (frm) заключается в том, что зависимая переменная (Y), в которой frm равна [0,1], но логистика - {0, 1}. Кроме того, frm использует оценку квази-правдоподобия для определения своих параметров. Обычно мы можем использовать glmдля получения логистических моделей glm(y ~ x1+x2, …

13 r  logistic  generalized-linear-model  quasi-likelihood 

Как можно превратить частый результат в байесовский априор? Рассмотрим следующий довольно общий сценарий: в прошлом проводился эксперимент и измерялся результат по некоторому параметру . Анализ был сделан с использованием методологии частых исследований. В результатах указан доверительный интервал для ϕ .ϕϕ\phiϕϕ\phi Сейчас я провожу новый эксперимент, в котором я хочу измерить …

13 bayesian  confidence-interval  meta-analysis  prior 

Мой вопрос касается настоятели о размерах эффекта, в моем проекте мера Коэна . При чтении литературы кажется, что часто используются расплывчатые приоры, как, например, в хорошо известном примере иерархического байесовского мета-анализа в восьми школах. В примере с восемью школами я видел неопределенный априор, использованный для оценки mu, такой как μ …

13 bayesian  meta-analysis  effect-size 

Я моделирую 15000 твитов для прогнозирования настроений, используя однослойный LSTM со 128 скрытыми единицами, используя word2vec-подобное представление с 80 измерениями. Я получаю точность снижения (38% со случайным = 20%) после 1 эпохи. Большее количество тренировок приводит к тому, что точность проверки начинает снижаться, когда точность обучения начинает расти - явный …

13 deep-learning  regularization  overfitting  lstm 

Гистограммы дают хорошее представление о распределении переменной. Тем не менее, блочные графики пытаются сделать то же самое, но не дают хорошего представления о распределении этой переменной. Я не понимаю, почему люди используют коробочные участки. Гистограммы лучше во всех отношениях. Есть ли причина, по которой я бы использовал их обоих? Единственное, …

13 data-visualization  histogram  boxplot 

Допустим, я хочу проверить, имеют ли два независимых образца разные значения. Я знаю, что базовое распределение не нормально . Если я правильно понимаю, моя статистика теста является средним значением , и для достаточно больших размеров выборки среднее значение должно стать нормально распределенным, даже если образцы не являются. Таким образом, тест …

13 t-test  central-limit-theorem  z-test 

Ричард Докинз назвал Рональда Фишера «отцом современной статистики и экспериментального дизайна», и эта строка цитируется в биографии Википедии Фишера . А также Андерс Халд назвал его «гением, который почти в одиночку создал основы современной статистической науки» в своей книге «История математической статистики» . Мне просто интересно, что именно он сделал, …

13 history  ronald-fisher