Статистика и большие данные

Регрессия LASSO сокращает коэффициенты до нуля, тем самым обеспечивая эффективный выбор модели. Я считаю, что в моих данных есть значимые взаимодействия между номинальными и непрерывными ковариатами. Однако не обязательно, чтобы «основные эффекты» истинной модели были значимыми (отличными от нуля). Конечно, я не знаю этого, поскольку истинная модель неизвестна. Мои цели …

25 machine-learning  lasso  glmnet  shrinkage  penalized 

Закрыто . Этот вопрос основан на мнении . В настоящее время не принимает ответы. Хотите улучшить этот вопрос? Обновите вопрос, чтобы ответить на него фактами и цитатами, отредактировав этот пост . Закрыто 2 года назад . Фундаментальная проблема с глубоким обучением и нейронными сетями в целом. Решения, которые соответствуют данным …

25 machine-learning  neural-networks  svm  deep-learning 

Учитывая выпуклую функцию стоимости, используя SGD для оптимизации, мы будем иметь градиент (вектор) в определенной точке в процессе оптимизации. Мой вопрос, учитывая точку на выпуклом, градиент только указывает в направлении, в котором функция увеличивается / уменьшается быстрее всего, или градиент всегда указывает на оптимальную / крайнюю точку функции стоимости ? …

25 neural-networks  optimization  gradient-descent  sgd  convex 

Во всем мы предполагаем, что наша статистика является функцией некоторых данных которые взяты из функции распределения ; Эмпирическая функция распределения нашей выборки - . Таким образом, - это статистика, рассматриваемая как случайная величина, а - это версия статистики для начальной загрузки. Мы используем в качестве расстояния KSX 1 , ... …

25 probability  mathematical-statistics  bootstrap  asymptotics  consistency 

Каковы преимущества, почему можно использовать несколько LSTM, расположенных рядом друг с другом, в глубокой сети? Я использую LSTM для представления последовательности входов в качестве одного входа. Итак, если у меня есть это единственное представление - зачем мне его снова проходить? Я спрашиваю об этом, потому что я видел это в …

25 classification  neural-networks  deep-learning  lstm  rnn 

Почему функции активации выпрямленных линейных единиц (ReLU) считаются нелинейными? е( х ) = макс ( 0 , х )f(x)=max(0,x) f(x) = \max(0,x) Они являются линейными, когда входной сигнал положительный, и, насколько я понимаю, для разблокировки репрезентативной силы глубоких сетей необходимы нелинейные активации, в противном случае вся сеть может быть представлена …

25 neural-networks  deep-learning 

Я пытаюсь разработать прогностическую модель, используя многомерные клинические данные, включая лабораторные данные. Пространство данных невелико с 5 тыс. Выборок и 200 переменных. Идея состоит в том, чтобы ранжировать переменные, используя метод выбора признаков (IG, RF и т. Д.), И использовать функции высшего ранга для разработки прогнозной модели. В то время …

25 machine-learning  missing-data 

Является ли утверждение о том, что функции независимых случайных величин сами по себе независимы, верно? Я видел, что этот результат часто неявно используется в некоторых доказательствах, например, в доказательстве независимости между выборочным средним и выборочной дисперсией нормального распределения, но я не смог найти оправдания этому. Кажется, что некоторые авторы принимают …

25 probability  self-study  random-variable  independence 

Допустим, у нас есть распределение Дирихле с мерным векторным параметром . Как я могу нарисовать образец ( мерный вектор) из этого распределения? Мне нужно (возможно) простое объяснение.КKKКα⃗ = [ α1, α2, . , , , αК]α→=[α1,α2,...,αK]\vec\alpha = [\alpha_1, \alpha_2,...,\alpha_K]КKK

25 sampling  dirichlet-distribution 

Недавно я начал изучать машинное обучение, однако мне не удалось понять интуицию, лежащую в основе логистической регрессии . Ниже приведены факты о логистической регрессии, которые я понимаю. В качестве основы для гипотезы мы используем сигмовидную функцию . Я понимаю , почему это правильный выбор, однако , почему это единственный выбор …

25 regression  machine-learning  logistic 

Итак, я думаю, что у меня есть приличное понимание основ вероятностного и статистического анализа (и как плохо его можно использовать). В частом мире имеет смысл задать такой вопрос, как «отличается ли это распределение от этого распределения», поскольку предполагается, что распределения являются реальными, объективными и неизменными (по крайней мере, для данной …

25 distributions  bayesian 

У меня есть набор данных наблюдений за образцами, которые хранятся в виде отсчетов в пределах диапазона. например: min/max count 40/44 1 45/49 2 50/54 3 55/59 4 70/74 1 Теперь найти среднюю оценку из этого довольно просто. Просто используйте среднее значение (или медиану) каждого бина диапазона в качестве наблюдения и …

25 variance  standard-deviation  weighted-sampling 

В обсуждении: как создать кривую roc для бинарной классификации , я думаю, что путаница заключалась в том, что «двоичный классификатор» (который является любым классификатором, разделяющим 2 класса) был для Янга так называемым «дискретным классификатором» (который производит дискретные выходы 0/1 (например, SVM), а не непрерывные выходы, такие как ANN или байесовские …

25 cross-validation  roc  auc 

У меня есть некоторые данные, и я хочу построить модель (скажем, модель линейной регрессии) из этих данных. На следующем шаге я хочу применить к модели перекрестную проверку Leave-One-Out (LOOCV), чтобы увидеть, насколько хорошо она работает. Если я правильно понял LOOCV, я строю новую модель для каждого из моих образцов (набор …

25 cross-validation 

Мне нужно сгенерировать случайные неквадратные матрицы с RRR строками и столбцами , элементами, случайно распределенными со средним значением = 0, и ограниченными таким образом, чтобы длина (норма L2) каждой строки составляла а длина каждого столбца составляла . Эквивалентно, сумма квадратных значений равна 1 для каждой строки и для каждого столбца.CCC111RC−−√RC\sqrt{\frac{R}{C}}RCRC\frac{R}{C} …

25 random-generation  normalization  markov-process  random-matrix