Когда глубокое обучение излишне?


15

Например, для классификации электронных писем как спама, имеет ли смысл - с точки зрения времени / точности - применять глубокое обучение (если возможно) вместо другого алгоритма машинного обучения? Сделает ли глубокое обучение ненужными другие алгоритмы машинного обучения, такие как наивный байесовский ?

Ответы:


13

Это все о возврате инвестиций . Если DL "стоит делать", это не излишне.

Если стоимость использования DL (компьютерные циклы, хранение, время обучения) приемлема, и данных, доступных для обучения, много, и если ценное преимущество перед альтернативными алгоритмами является ценным, то DL является победой.

Но, как вы предлагаете, если ваша проблема поддается альтернативным методам, особенно если она предлагает сигнал, который хорошо согласуется с классическими методами, такими как регрессионный или наивный байесовский, или ваша проблема требует объяснения, почему граница решения находится там, где она есть (например, деревья решений), или если в ваших данных отсутствуют непрерывные градиенты, необходимые для DL (особенно для CNN), или если ваши данные изменяются со временем, что потребует периодической переподготовки (особенно с непредсказуемыми интервалами), то DL, вероятно, является для вас несоответствием.


12

Глубокое обучение является мощным, но это не лучший метод, чем байесовский. Они хорошо работают в том, что они предназначены для:

Используйте глубокое обучение:

  • Стоимость вычислений намного дешевле стоимости выборки (например, обработка на естественном языке)
  • Если у вас сильно нелинейная проблема
  • Если вы хотите упростить разработку функций
  • Если у вас нет предварительного распределения (например: установка весов в случайный гауссовский). Или вы делаете, но вы не против сложности.
  • Если вам нужна точность для скорости (глубокое обучение медленное)

Используйте наивный байесовский:

  • Если у вас есть предварительное распространение, которое вы хотите использовать
  • Если вы хотите обновить свою модель быстро и легко (в частности, модели конъюнктуры)
  • Если у вас есть собственная функция вероятности и вы хотите «контролировать», как именно работает модель
  • Если вы хотите моделировать иерархические модели
  • Если вы не хотите настраивать параметры
  • Если вы хотите более быструю модель, как в обучении, так и в исполнении
  • Если вы хотите сделать предположение о независимости
  • Если вы хотите предотвратить переоснащение (это очень простая модель)
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.