Статистика и большие данные

Раздел 1.7.2 Обнаружения Статистики Используя R Энди Филдсом и др., Перечисляя достоинства среднего значения по отношению к медиане, утверждает: ... среднее значение стабильно в разных выборках. Это после объяснения многих достоинств медианы, например, ... Медиана относительно не зависит от экстремальных показателей на обоих концах распределения ... Учитывая, что медиана относительно …

22 mean  median 

Мне любопытно, как градиенты распространяются обратно через нейронную сеть с помощью модулей ResNet / пропуска соединений. Я видел пару вопросов о ResNet (например, Нейронная сеть с пропускаемыми соединениями ), но этот вопрос специально задает о обратном распространении градиентов во время обучения. Основная архитектура здесь: Я прочитал эту статью, Изучение остаточных …

22 machine-learning  neural-networks  conv-neural-network  gradient-descent  backpropagation 

Вопрос: Когда (для каких типов проблем визуализации данных) тепловые карты наиболее эффективны? (В частности, более эффективен, чем все другие возможные методы визуализации?) Когда тепловые карты наименее эффективны? Существуют ли какие-либо общие шаблоны или практические правила, которые можно использовать, чтобы решить, является ли тепловая карта вероятным эффективным способом визуализации данных, и …

22 data-visualization  heatmap 

Здесь есть похожая тема ( функция стоимости нейронной сети невыпуклая? ), Но я не смог понять суть вопросов в ответах и ​​мою причину повторного запроса, надеясь, что это прояснит некоторые проблемы: Если я использую функцию суммы квадратов разницы стоимости, я в конечном итоге оптимизирую что-то в форме где - фактическое …

22 machine-learning  neural-networks  optimization  loss-functions  convex 

Мы бросаем шестигранный кубик большое количество раз. Вычисляя разницу (абсолютную величину) между рулоном и его предыдущим рулоном, должны ли различия быть равномерно распределены? Для иллюстрации с 10 рулонами: roll num result diff 1 1 0 2 2 1 3 1 1 4 3 2 5 3 0 6 5 2 …

22 distributions  uniform 

У меня есть набор данных. Скажите наблюдений и переменные:3101010333 obs A B C 1 0 0 1 2 0 1 0 3 1 0 1 4 1 1 0 5 1 0 1 6 1 0 0 7 1 1 0 8 0 0 1 9 0 1 1 10 …

22 proportion  descriptive-statistics  paradox 

А положительно связан с Б. C является результатом A и B, но влияние A на C отрицательно, а влияние B на C положительно. Может ли это случиться?

22 regression  correlation 

Я играл с простой нейронной сетью только с одним скрытым слоем от Tensorflow, а затем пробовал разные активации для скрытого слоя: Relu сигмоид Softmax (ну, обычно softmax используется в последнем слое ..) Relu дает лучшую точность поезда и точность проверки. Я не уверен, как это объяснить. Мы знаем, что Relu …

22 machine-learning  neural-networks  conv-neural-network  tensorflow  sigmoid-curve 

Включив в статью модель квантильной регрессии, рецензенты хотят, чтобы я включил скорректированный в статью. Я рассчитал псевдо- R 2 s (из статьи JASA Коенкера и Мачадо 1999 года ) для трех интересующих меня квантилей для моего исследования.R2R2R^2R2R2R^2 Однако я никогда не слышал о скорректированном для квантильной регрессии и не знал, …

22 goodness-of-fit  r-squared  quantile-regression 

Я знаю, для обычных задач, если у нас есть лучший регулярный объективный оценщик, это должен быть оценщик максимального правдоподобия (MLE). Но в целом, если у нас есть беспристрастный MLE, будет ли он также лучшим беспристрастным оценщиком (или, может быть, я должен назвать его UMVUE, если он имеет наименьшую дисперсию)?

22 mathematical-statistics  maximum-likelihood  unbiased-estimator 

Эндрю Гельман (Andrew Gelman) написал обширную статью о том, почему байесовское тестирование AB не требует множественной коррекции гипотез: почему мы (обычно) не должны беспокоиться о множественных сравнениях , 2012. Я не совсем понимаю: почему байесовские методы не требуют множественных исправлений тестирования? A ~ Distribution1 + Common Distribution B ~ Distribution2 …

22 hypothesis-testing  bayesian  multiple-comparisons 

В чем разница между отрицательным биномиальным распределением и биномиальным распределением? Я попытался читать онлайн, и обнаружил, что отрицательное биномиальное распределение используется, когда точки данных дискретны, но я думаю, что даже биномиальное распределение можно использовать для дискретных точек данных.

22 categorical-data  data-mining  binomial  negative-binomial 

Согласно «Вероятности и статистике Миллера и Фрейнда для инженеров», 8ed (стр.217-218), функция правдоподобия, которая должна быть максимизирована для биномиального распределения (испытания Бернулли), определяется как L ( p ) = ∏Nя = 1пИкся( 1 - р )1 - хяL(п)знак равноΠязнак равно1NпИкся(1-п)1-ИксяL(p) = \prod_{i=1}^np^{x_i}(1-p)^{1-x_i} Как прийти к этому уравнению? Мне кажется довольно …

22 estimation  maximum-likelihood  bernoulli-distribution  point-estimation 

При обучении нейронной сети с использованием алгоритма обратного распространения метод градиентного спуска используется для определения обновлений веса. Мой вопрос: вместо того, чтобы использовать метод градиентного спуска, чтобы медленно найти минимальную точку относительно определенного веса, почему бы нам просто не установить производную , и найти значение веса которое минимизирует ошибку?d(Error)dw=0d(Error)dw=0\frac{d(\text{Error})}{dw}=0www Кроме …

22 neural-networks  gradient-descent  backpropagation 

Некоторые штрафные функции и аппроксимации хорошо изучены, такие как LASSO ( L1L1L_1 ) и Ридж ( L2L2L_2 ) и их сравнение в регрессии. ∑∥βj∥γ∑‖βj‖γ\sum \|\beta_{j}\|^{\gamma}γ=1γ=1\gamma = 1γ=2γ=2\gamma = 2 Вэньцзян [ 1 ] сравнил штраф Бриджа, когда с LASSO, но я не смог найти сравнение с регуляризацией Elastic Net, комбинацией …

22 regression  lasso  regularization  ridge-regression  elastic-net