Каковы хорошие рамки для выбора метода?

Я искал теоретические основы для выбора метода (примечание: не выбор модели) и нашел очень мало систематической, математически мотивированной работы. Под «выбором метода» я подразумеваю основу для различения подходящего (или лучшего, оптимального) метода по отношению к проблеме или типу проблемы.

То, что я обнаружил, является существенным, хотя и частичным, работа над конкретными методами и их настройкой (т.е. предварительный выбор в байесовских методах), а также выбор метода с помощью выбора смещения (например, Индуктивная политика: Прагматика выбора смещения ). Я могу быть нереалистичен на этой ранней стадии развития машинного обучения, но я надеялся найти что-то вроде того, что делает теория измерений при назначении допустимых преобразований и тестов по типу шкалы, только в масштабах проблемы обучения.

Какие-либо предложения?

machine-learning methodology theory

— Джон Л. Тейлор
источник

В чем разница между выбором модели modelselection.org (горячая тема в статистике за последние 20 лет) и выбором метода.

— Робин Жирар

В то время как выбор модели обычно включает в себя оценку моделей в семействе распределений, основанную на их подгонке и наказании за количество используемых параметров (а-ля AIC и BIC), тогда как выбор метода является более общим. Выбор метода подразумевает столкновение с проблемой (например, проверка, классификация, прогноз), для которой у нас есть некоторые базовые знания (как известно, переменные (например, независимость, тип данных), и для которых сделаны вспомогательные предположения (например, нормальность, гомоскедастичность) и мы должны выбрать метод

— Джон Л. Тейлор

Теперь есть математические предписания в соответствии с типом измерения, результатами сходимости, оптимальностью и сложностью времени / пространства, но нет никаких оснований для их систематического применения, о чем я знаю, поэтому возникает вопрос.

— Джон Л. Тейлор

Можете ли вы привести пример выбора метода с более подробной информацией (ссылка на страницу или статью могла бы подойти), это может помочь мне понять более точно. Заранее спасибо

— Робин Жирар

Вышеупомянутая статья касается выбора метода, как правило. Что касается конкретных примеров и более подробной информации, то они могут быть разбросаны по конкретным мета-методологическим дисциплинам (теория измерений, теория алгоритмического обучения, теория статистического обучения, теория сложности), но я не нашел систематического подхода, поэтому возникает вопрос. Если вы хотите обсудить эти вопросы в целом, вы можете написать мне на johnnylogic на gmail.

— Джон Л. Тейлор

Джон, я не уверен, что мое предложение может помочь. Но, в любом случае, книга « Интуитивная биостатистика » Харви Мотульского может помочь. Глава 37 «Выбор теста» содержит довольно хорошую таблицу на стр. 298, в которой говорится о характере набора данных и о проблеме, которую вы решаете, какой статистический метод следует использовать. Amazon позволяет вам искать по этой книге.

Удачи.

— Sympa
источник