Статистика и большие данные

На конференции я услышал следующее утверждение: 100 измерений для 5 предметов дают гораздо меньше информации, чем 5 измерений для 100 предметов. Очевидно, что это правда, но мне было интересно, как можно это доказать математически ... Я думаю, что можно использовать линейную смешанную модель. Тем не менее, я не знаю много …

21 mixed-model  variance  repeated-measures  sample-size  intraclass-correlation 

Я только что провел анализ своих данных с использованием логистической регрессии, однако мне также необходимо иметь описательную часть статистики в моем отчете. Я, честно говоря, не вижу в этом смысла, и я надеялся, что кто-то сможет объяснить, почему это необходимо. Например, если я строю гистограмму одной из моих независимых непрерывных …

21 descriptive-statistics  reporting 

Укороченная версия: Мы знаем, что логистическая регрессия и пробит-регрессия могут быть интерпретированы как включающие в себя непрерывную скрытую переменную, которая дискретизируется согласно некоторому фиксированному порогу перед наблюдением. Доступна ли подобная интерпретация скрытой переменной, скажем, для регрессии Пуассона? Как насчет биномиальной регрессии (например, логита или пробита), когда существует более двух отдельных …

21 logistic  generalized-linear-model  poisson-regression  probit  latent-variable 

Мне любопытно заявление, сделанное в статье Википедии о размере эффекта . В частности: [...] статистическое сравнение, не равное нулю, всегда будет показывать статистически значимые результаты, если только величина эффекта совокупности не равна нулю Я не уверен, что это означает / подразумевает, не говоря уже о аргументе, чтобы поддержать это. Я …

21 hypothesis-testing 

В последнее время я читал некоторые вопросы о t-SNE ( t-распределенное стохастическое вложение соседей ), а также посетил некоторые вопросы о MDS ( многомерном масштабировании ). Они часто используются аналогично, поэтому было бы неплохо задать этот вопрос, поскольку здесь есть много вопросов по обоим по отдельности (или по сравнению с …

21 data-visualization  dimensionality-reduction  multidimensional-scaling  tsne 

В статистике описывают ли независимые и случайные одинаковые характеристики? Какая разница между ними? Мы часто сталкиваемся с описанием типа «две независимые случайные величины» или «случайная выборка». Мне интересно, какова точная разница между ними. Может кто-нибудь объяснить это и привести несколько примеров? например, независимый, но случайный процесс?

21 distributions  sampling  randomness 

Задний план: Да, Restricted Boltzmann Machine (RBM) МОЖЕТ использоваться для инициации весов нейронной сети. Также он МОЖЕТ использоваться «послойным» способом для построения сети глубокого убеждения (то есть для обучения уровня на вершине ( n - 1 ) -го уровня, а затем для обучения n + 1-й слой поверх n-го слоя …

21 machine-learning  neural-networks  deep-learning  deep-belief-networks  rbm 

Основываясь на небольшом знании о методах MCMC (цепочка Маркова, Монте-Карло), я понимаю, что отбор проб является важной частью вышеупомянутой техники. Наиболее часто используемые методы отбора проб - это гамильтониан и метрополис. Есть ли способ использовать машинное обучение или даже глубокое обучение для создания более эффективного сэмплера MCMC?

21 machine-learning  mcmc  monte-carlo  markov-process 

Мой вопрос возник из обсуждения с @whuber в комментариях к другому вопросу . В частности, комментарий @whuber был следующим: Одна из причин, по которой вас это может удивить, заключается в том, что допущения, лежащие в основе теста корреляции и теста наклона регрессии, различны - поэтому даже когда мы понимаем, что …

21 regression  correlation  p-value  assumptions 

Многие PDF-файлы варьируются от минус до положительной бесконечности, но некоторые средства определены, а некоторые нет. Какая общая черта делает некоторые вычислимыми?

21 distributions  mean 

Насколько я понимаю, даже при соблюдении процедур перекрестной проверки и выбора модели может произойти переоснащение , если поискать модель будет достаточно сложно , если только он не налагает ограничения на сложность модели, период. Более того, часто люди пытаются узнать штрафы за сложность модели на основе данных, которые подрывают защиту, которую …

21 machine-learning  cross-validation  goodness-of-fit  scikit-learn  caret 

В последнее время я работал над алгоритмами повышения обучаемости, такими как adaboost, ускорение градиента, и я знал тот факт, что наиболее часто используемым слабым учеником являются деревья. Я действительно хочу знать, есть ли некоторые недавние успешные примеры (я имею в виду некоторые статьи или статьи) для использования нейронных сетей в …

21 neural-networks  deep-learning  boosting  ensemble  dropout 

Почему люди используют методы квадратичного программирования (например, SMO) при работе с SVM с ядром? Что не так с градиентным спуском? Это невозможно использовать с ядрами или просто слишком медленно (и почему?). Здесь немного больше контекста: пытаясь немного лучше понять SVM, я использовал Gradient Descent для обучения линейного классификатора SVM, используя …

21 svm  kernel-trick  gradient-descent 

Что такое «логистика» в логистическом распределении, в общем смысле? Какова этимология и лексическое обоснование имени, а не просто математическое определение?

21 terminology  history  etymology  logistic-curve  logistic-distribution 

РЕДАКТИРОВАТЬ: Поскольку этот вопрос был завышен, краткое изложение: поиск различных значимых и интерпретируемых наборов данных с одинаковой смешанной статистикой (среднее значение, медиана, средний диапазон и связанные с ними дисперсии и регрессия). Квартет Анскомба (см. « Цель визуализации высокоразмерных данных?» ) Является известным примером четырех наборов данных ИксИксx - YYy с …

21 regression  descriptive-statistics  curve-fitting  estimators