Вопросы с тегом «machine-learning»

Мне недавно сказали, что процесс, которому я следовал (компонент тезиса MS), мог быть замечен как переоснащение. Я хочу лучше понять это и посмотреть, согласны ли другие. Целью этой части статьи является Сравните производительность деревьев градиентной ускоренной регрессии со случайными лесами в наборе данных. Посмотрите на производительность последней выбранной модели (GBM …

11 machine-learning  data-mining  predictive-models 

Я читаю эту статью о обобщенных процессах Wishart (GWP). В статье вычисляются ковариации между различными случайными величинами (по гауссовскому процессу ) с использованием экспоненциальной ковариационной функции в квадрате, т. Е. . Затем говорится, что эта ковариационная матрица следует за GWP.К( х , х') = exp( - | ( х - …

11 machine-learning  normal-distribution  covariance  wishart  nonparametric-bayes 

Я тренирую гауссовский процесс с ядром ARD с большим количеством параметров, максимизируя предельное правдоподобие данных вместо перекрестной проверки. Я подозреваю, что это чрезмерно. Как я могу проверить это подозрение в байесовском контексте?

11 machine-learning  cross-validation  gaussian-process 

Я, вероятно, имею дело с проблемой, которая, вероятно, была решена сто раз прежде, но я не уверен, где найти ответ. При использовании логистической регрессии, учитывая многие функции и пытаясь предсказать двоичное категориальное значение y , я заинтересован в выборе подмножества признаков, которые хорошо предсказывают y .x1,...,xnx1,...,xnx_1,...,x_nyyyyyy Есть ли процедура, похожая …

11 machine-learning  logistic  classification 

Примером хорошей меры отделимости классов у учащихся с линейным дискриминантом является коэффициент линейного дискриминанта Фишера. Существуют ли другие полезные метрики, чтобы определить, обеспечивают ли наборы функций хорошее разделение классов между целевыми переменными? В частности, я заинтересован в поиске хороших многомерных входных атрибутов для максимального разделения целевых классов, и было бы …

11 machine-learning  classification  feature-selection  discriminant-analysis 

Может кто-нибудь объяснить мне концепцию расстояния Махаланобиса? Например, каково расстояние Махаланобиса между двумя точками x и y, и особенно, как оно интерпретируется для распознавания образов?

11 machine-learning  mathematical-statistics  distance-functions 

Каковы применения или преимущества методов регрессии с уменьшением размерности (DRR) или контролируемого уменьшения размерности (SDR) по сравнению с традиционными методами регрессии (без уменьшения размерности)? Этот класс методов находит низкоразмерное представление набора функций для задачи регрессии. Примеры таких методов включают в себя секвированную обратную регрессию, главные гессианские направления, оценку средней дисперсии …

11 regression  machine-learning  pca  dimensionality-reduction 

В середине 1960-х годов исследователи стали называть шахматы « дрозофилой искусственного интеллекта»: как и плодовая муха, игра в шахматы была доступной и относительно простой задачей для экспериментов, которая, тем не менее, давала важные знания более сложным проблемам. Теперь, кажется, люди говорят, что «шахматы - это просто проблема поиска», а «шахматные …

11 machine-learning 

В этой статье об Adaboost приведены некоторые предложения и код (стр. 17) для расширения моделей с 2 ​​классами до задач класса K. Я хотел бы обобщить этот код так, чтобы я мог легко подключить различные 2-классовые модели и сравнить результаты. Поскольку большинство моделей классификации имеют интерфейс формулы и predictметод, некоторые …

11 r  machine-learning  classification  statistical-learning  multi-class 

Это было в моей голове, по крайней мере, несколько часов. Я пытался найти оптимальное k для вывода из алгоритма k-средних (с метрикой косинусного сходства ), поэтому в итоге я построил график искажения как функции от числа кластеров. Мой набор данных представляет собой коллекцию из 800 документов в 600-мерном пространстве. Из …

11 machine-learning  clustering  k-means 

Каковы преимущества придания определенных начальных значений вероятностям перехода в скрытой марковской модели? В конце концов система изучит их, так какой смысл давать значения, отличные от случайных? Имеет ли базовый алгоритм такую ​​разницу, как Баум-Уэлч? Если бы я очень точно знал вероятности перехода в начале, и моя главная цель - предсказать …

11 machine-learning  expectation-maximization  hidden-markov-model 

Я работаю с некоторыми большими наборами данных, используя пакет gbm в R. И моя матрица предикторов, и мой вектор ответов довольно редки (то есть большинство записей равно нулю). Я надеялся построить деревья решений, используя алгоритм, который использует преимущества этой редкости, как это было сделано здесь ). В этой статье, как …

11 r  regression  machine-learning  classification  cart 

Скажем, у меня есть модель прогнозирующей классификации, основанная на случайном лесу (используя пакет randomForest в R). Я хотел бы настроить его так, чтобы конечные пользователи могли указать элемент, для которого создается прогноз, и он выведет вероятность классификации. Пока проблем нет. Но было бы полезно / круто иметь возможность выводить что-то …

11 machine-learning  random-forest 

Существует ли какой-либо стандартный метод определения «оптимальной» рабочей точки на кривой точного возврата ? (то есть, определение точки на кривой, которая предлагает хороший компромисс между точностью и отзывом) благодаря

11 machine-learning  precision-recall 

Я искал теоретические основы для выбора метода (примечание: не выбор модели) и нашел очень мало систематической, математически мотивированной работы. Под «выбором метода» я подразумеваю основу для различения подходящего (или лучшего, оптимального) метода по отношению к проблеме или типу проблемы. То, что я обнаружил, является существенным, хотя и частичным, работа над …

11 machine-learning  methodology  theory