Статистика и большие данные

Вопросы и ответы для людей, интересующихся статистикой, машинным обучением, анализом данных, интеллектуальным анализом данных и визуализацией данных

1
Являются ли регрессии с ошибками Student-T бесполезными?
Пожалуйста, смотрите редактировать. Когда у вас есть данные с тяжелыми хвостами, выполнение регрессии с ошибками Student-T кажется интуитивно понятным. Исследуя эту возможность, я наткнулся на эту статью: Breusch, TS, Robertson, JC, & Welsh, AH (01 ноября 1997 г.). Новая одежда императора: критика многомерной регрессионной модели. Statistica Neerlandica, 51, 3.) ( …

4
Вероятность нахождения конкретной последовательности пар оснований
Размышления о вероятности всегда заставляют меня понять, насколько я плох в подсчете ... Рассмотрим последовательность из базовых букв , каждый из которых имеет одинаковую вероятность. Какова вероятность того, что эта последовательность содержит конкретную последовательность пар оснований, представляющих интерес длины ?nnnA,T,C, and GA,T,C, and GA,\; T, \; C, \text{ and } …

1
Удвоение хвостов в тесте перестановки с двумя образцами
Предположим, у нас есть две выборки, и мы хотим определить, взяты ли они из одного и того же распределения, причем выборки A, B состоят из нескольких целых чисел. Если мы проверим это с помощью теста перестановки с двумя выборками, в частности, рассмотрим перестановки, где различия в значениях выборок столь же …

1
Как рассчитать доверительный интервал для прогнозирования временных рядов?
У меня есть временной ряд (скажем, от до ), и мне нужно предсказать следующую выборку (скажем, ) с использованием модели такие как нейронная сеть или множественная линейная регрессия. В момент n у меня есть вся выборка от до , и мне нужно предсказать ; в момент времени меня есть вся …

3
Относительно использования биграммы (N-грамма) для построения векторного элемента для текстового документа
Традиционный подход к построению объектов для интеллектуального анализа текста - это подход «мешок слов», и его можно усовершенствовать с помощью tf-idf для настройки вектора объектов, характеризующего данный текстовый документ. В настоящее время я пытаюсь использовать модель языка биграмм или (N-грамм) для построения векторного элемента, но не совсем знаю, как это …

1
Разница между маргинальной и условной моделями
Предельная модель учитывает корреляции внутри каждого кластера. Условная модель также учитывает корреляцию в пределах каждого кластера. Мои вопросы: Моделирует ли маргинальная модель основные эффекты в популяции, тогда как условная модель моделирует основные эффекты в кластере и в популяции? Интерпретация коэффициентов маржинальной модели в основном такая же, как «регулярная модель». Но …

3
Кластеризация распределений
У меня есть несколько распределений (10 распределений на рисунке ниже). Фактически это гистограммы: на оси x имеется 70 значений, которые представляют собой размеры некоторых частиц в растворе, и для каждого значения x соответствующее значение y представляет собой долю частиц, размер которых составляет около значения x. Я хотел бы сгруппировать эти …
10 clustering 

2
Корреляция между дихотомической и непрерывной переменной
Я пытаюсь найти корреляцию между дихотомической и непрерывной переменной. Исходя из моей основной работы по этому вопросу, я обнаружил, что должен использовать независимый t-критерий, и предварительным условием для этого является то, что распределение переменной должно быть нормальным. Я выполнил тест Колмогорова-Смирнова для проверки нормальности и обнаружил, что непрерывная переменная является …

2
Стабильность модели в перекрестной проверке регрессионных моделей
С учетом множественных сгибов перекрестной проверки логистической регрессии и полученных в результате множественных оценок каждого коэффициента регрессии, как следует измерить, является ли предиктор (или набор предикторов) стабильным и значимым на основе коэффициента (ов) регрессии ? Отличается ли это для линейной регрессии?

1
Тест на пропорции и двоичный классификатор
У меня есть прототип машины, производящей детали. В первом тесте машина производит деталей, и двоичный классификатор говорит мне, что детали неисправны ( , обычно и ), а детали хороши.d 1 d 1 < N 1 d 1 / N 1 < 0,01 N 1 ≈ 10 4 N 1 - …

3
Интернет материал для изучения анализа временных рядов
У меня вопрос, есть ли хорошие онлайн-материалы для изучения этого. Что-то, что хорошо знакомит, особенно модели ARMA и связанная математика. Изменить: я ищу что-то высокого уровня бакалавриата. Что-то вроде Броквелла и Дэвиса « Введение во временные ряды и прогнозирование»

2
Как я могу сгруппировать строки по общим темам?
Например, я пытаюсь сгруппировать строки о программировании с другими строками о программировании, строки о физике с другими строками о физике и т. Д. По широкому кругу тем. Несмотря на вопиющий теоретический лингвистический аспект проблемы, я собираюсь сделать это с помощью программирования / программного обеспечения. Краткое изложение: Учитывая большое количество строк, …

2
Как выбрать лучшее преобразование для достижения линейности?
Я хочу сделать множественную линейную регрессию, а затем предсказать новые значения с небольшой экстраполяцией. У меня есть переменная ответа в диапазоне от -2 до +7 и три предиктора (диапазоны от +10 до +200). Распределение почти нормальное. Но отношения между ответом и предикторами не являются линейными, я вижу кривые на графиках. …

3
Какова вероятность того, что n человек из списка m людей будут случайным образом выбирать x людей из списка y людей?
Если я выбираю 232 человека из группы из 363 человек без замены, какова вероятность того, что 2 из списка из 12 конкретных людей будут включены в этот выбор? Это случайная ничья для ультра гонки, в которой было 363 участника на 232 места. Есть аргумент о том, был ли выбор предвзятым …

2
Является ли отображение размера биномиального эффекта (BESD) вводящим в заблуждение представлением размера эффекта?
Мне трудно принять, что Дональд Рубин когда-либо придумал настоящий лимон техники. Тем не менее, это мое восприятие BESD [ 1 , 2 , 3 ]. В оригинальной статье Розенталя и Рубина (1982) утверждается, что было полезно показать, «как преобразовать любую корреляцию момента продукта в такой дисплей [2x2], являются ли исходные …

Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.