Что мне нужно учиться для машинного обучения?


9

Начиная с прошлого года, я изучал различные предметы, чтобы понять некоторые из наиболее важных тезисов машинного обучения, таких как

S. Hochreiter & J. Schmidhuber. (1997). Долгосрочная кратковременная память . Нейронные вычисления, 9 (8), 1735-1780.

Однако из-за того, что у меня нет математического образования, я начал изучать такие предметы, как

  • Исчисление
  • Многомерное исчисление
  • Математический анализ
  • Линейная алгебра
  • Дифференциальные уравнения
  • Реальный Аналисис (Теория Меры)
  • Элементарная вероятность и статистика
  • Математическая статистика

Прямо сейчас я не могу сказать, что я тщательно изучал эти предметы, но я знаю, с чем хотят иметь дело эти предметы. Дело в том, что я не знаю, что мне делать на этом этапе. Есть много предметов, которые машинное обучение использует для решения многих проблем, и я не знаю, как правильно их использовать.

Например, обучение с подкреплением в настоящее время является одной из самых популярных тем, которую сотни тысяч исследователей сейчас проводят, чтобы совершить прорыв проклятия размерности. Но, как будущий сотрудник, который будет работать в ИТ-компаниях, задача на столе не была бы тем, чего я ожидал.

Важно ли иметь собственный опыт для работы на полях? Если да, то какие предметы я должен изучать прямо сейчас?

Для вашего удобства я хочу узнать больше о марковском процессе и марковском процессе принятия решений.


1
Я бы сказал, что если бы вы все поняли в этой статье LSTM, у вас более или менее уже есть все «предпосылки» для продолжения вашей карьеры в ML. Конечно, вы найдете новые концепции (у всех так) на вашем пути, но вы сможете с ними справиться (выполнив некоторые исследования самостоятельно). Марковские процессы и MDP не имеют большого значения, если вы понимаете статью LSTM.
nbro

Ответы:


4

Будучи студентом магистра в области искусственного интеллекта, я настоятельно советую вам изучить некоторые основы машинного обучения.

Чтобы сделать это, вы можете получить хорошую книгу (« Машинное обучение» , Том Митчелл, МакГроу Хилл, 1997) для теории и практики, самостоятельно попробовав некоторые соревнования в Kaggle .

Я предложил книгу Митчелла, потому что он является экспертом в этой области, и многие курсы машинного обучения используют его книгу. Вы также можете следить за его видеолекциями онлайн

На Kaggle вы можете найти множество полезных учебных пособий (названных как Блокноты), чтобы начать работу с доступными наборами данных. Некоторые уроки о Titanic Challenge здесь


5

На самом деле, вам не нужно тщательно изучать эти предметы для реализации алгоритмов машинного обучения. Только теория вероятностей должна строго рассматриваться в машинном обучении. Вы можете найти очень хорошую серию лекций по теории вероятностей здесь:

Введение в вероятность - наука неопределенности

Кроме того, базовый курс по исчислению будет достаточен, для базовых реализаций вам на самом деле не требуется понимание исчисления высокого уровня, если вы не хотите создавать индивидуальные схемы обновления веса или нейронные сети с чем-то новым. Но, чтобы получить интуицию о исчислении, проверьте Академию Хана: Исчисление

Некоторой основной идеи линейной алгебры достаточно, чтобы визуализировать вещи и обрести интуицию. В Академии Хана есть отличный курс по этому вопросу, я предлагаю вам проверить его: линейная алгебра

Так как для языков программирования машинное обучение или NEural Nets лучше всего реализовать на Python или R, поскольку визуализация данных и программирование на них довольно просты.

Главное в реализации нейронных сетей и машинного обучения - это практика, чем больше вы практикуетесь, тем лучше вы получаете. Вы также получите представление о том, что вы делаете с практикой. Только чтение теории и понимание концепций вам не помогут. Вы должны реализовать это в реальной жизни. Что касается книги, вы можете посмотреть мой ответ здесь:

Проверенные источники AI Theory / Инструменты / Приложения для опытного программиста, новичка в этой области?


3

Я нашел статистические модели очень полезными. Однако статистики самой по себе недостаточно, вам также нужен очень солидный опыт в теории вероятностей.


1

изучите основы Python в первую очередь. Начните с теоремы Бэя, затем перейдите к 1) функциям плотности вероятности 2) кумулятивным функциям плотности 3) непрерывным функциям 4) центральной предельной теореме.


Кроме того, как вы думаете, важно ли изучать теорию вероятностей выпускников, чтобы увидеть тезисы продвинутого уровня по машинному обучению? А также, предположим, что я знаю все вышеперечисленное (я не хочу быть грубым, но, если честно, я знаю, в чем разница между непрерывностью и равномерной непрерывностью, pdf, cdf, mgf и т. Д.), Вы думаете, что важно изучить марковский процесс, чтобы составить программу уровня производства?
Windforces

1

Во-первых, быстрый фон для меня. Я был студентом дошкольного образования, который закончил бакалавриат со степенью биофизики. После некоторой тяжелой работы и умного принятия решений, я теперь инженер-программист AI / ML со степенью магистра в области компьютерных наук (специальность в машинном обучении).

Важно ли иметь собственный опыт для работы на полях?

Да, абсолютно, но не обязательно в профессиональном контексте. Вам не нужно работать инженером-программистом в области машинного обучения, но вы должны продемонстрировать свое мастерство в этой области. Что является отличным переходом ко второй части вашего вопроса ...

Если да, то какие предметы я должен изучать прямо сейчас?

Это не одна тема, на которую вы должны обратить внимание. Машинное обучение представляет собой комбинацию множества различных областей, и было бы не очень эффективно сосредоточиться только на одной из них, прежде чем углубляться в более тщательную практику. Вместо этого, учебники и практики являются названием игры.

  • 3Blue1Brown на Youtube дает отличные учебные пособия, особенно по нейронным сетям
  • Академия хана - находка, когда дело доходит до учебников по математике. Я бы сказал, что лучше всего начать с линейной алгебры и вероятности / статистики. Но в конечном итоге также используются многовариантное исчисление и дифференциальные уравнения.
  • Udacity - это отличный учебный сайт, который даже предлагает программы «нанодегретных», чтобы дать вам больше опыта в области искусственного интеллекта и машинного обучения. Это бесплатно, если вы просто хотите посмотреть видео.
  • OpenAIGym - отличное место для практического обучения
  • Kaggle предлагает отличные учебные пособия по машинному обучению, а их конкурсы обеспечивают отличную практику обучения под наблюдением / без присмотра.

Дополните свои знания в области теории и математики практическими разработками и практикой для достижения наилучших результатов. Вы упомянули конкретную направленность на MDP, с помощью которой учебники Udacity и OpenAIGym могли бы дать отличную практику.

Если вы заинтересованы в получении степени магистра, я не могу достаточно порекомендовать онлайнового магистра в области компьютерных наук ( OMSCS ) от Georgia Tech . Это отличное образование, и (когда я поступил в 2015 году) не требовало GRE и стоило всего около 8000,00 долларов США.


-1

Обучение машинному обучению за 3 месяца

Это учебный план для «Учись машинному обучению за 3 месяца» этого видео Сираджа Равала на Youtube

1 месяц

1-я неделя Линейная алгебра

https://www.youtube.com/watch?v=kjBOesZCoqc&index=1&list=PLZHQObOWTQDPD3MizzM2xVFitgF8hE_ab https://ocw.mit.edu/courses/matmatics/18-06-linear-algebra-spring-2010/

2 неделя исчисление

https://www.youtube.com/playlist?list=PLZHQObOWTQDMsr9K-rj53DwVRMYO3t5Yr

Неделя 3 Вероятность

https://www.edx.org/course/introduction-probability-science-mitx-6-041x-2

Неделя 4 Алгоритмы

https://www.edx.org/course/algorithm-design-analysis-pennx-sd3x

Месяц 2

1 неделя

Изучите питона для науки о данных

https://www.youtube.com/watch?v=T5pRlIbr6gg&list=PL2-dafEMk2A6QKz1mrk1uIGfHkC1zZ6UU

Математика интеллекта

https://www.youtube.com/watch?v=xRJCOz3AfYY&list=PL2-dafEMk2A7mu0bSksCGMJEmeddU_H4D

Введение в Tensorflow

https://www.youtube.com/watch?v=2FmcHiLCwTU&list=PL2-dafEMk2A7EEME489DsI468AB0wQsMV

2 неделя

Введение в ML (Udacity) https://eu.udacity.com/course/intro-to-machine-learning--ud120

3-4 неделя

Идеи проекта ML https://github.com/NirantK/awesome-project-ideas

Месяц 3 (глубокое обучение)

1 неделя

Введение в глубокое обучение https://www.youtube.com/watch?v=vOppzHpvTiQ&list=PL2-dafEMk2A7YdKv4XfKpfbTH5z6rEEj3

2 неделя

Глубокое обучение от Fast.AI http://course.fast.ai/

3-4 неделя

Повторно внедрите проекты DL из моего github https://github.com/llSourcell?tab=repositories


Дополнительные ресурсы:
- Люди в ML, чтобы подписаться на Twitter


1
Да, я могу сказать вам, почему я отказался от этого ответа. 1) Я не думаю, что вы сможете хорошо освоить машинное обучение за 3 месяца, также изучая предпосылки. 2) У каждого свой темп обучения, поэтому ограничение обучения 3 месяцами не очень хорошая идея. 3) Вы связываете людей с другими источниками, не объясняя, почему.
nbro

Мы не можем быть PRO, но, по крайней мере, Nuance, чтобы сделать некоторые и возглавить некоторые соревнования по ML. Если я добавлю ссылку, я упомянул там, что вы получите по этой ссылке. Также у каждого свой темп обучения, я тоже согласен с этим, но вы можете испачкать руки за эти три месяца. Это очень общий ответ, учитывая, что никто не знает ничего, но они просто хотят начать и обрести уверенность, после чего они могут начать копать глубже.
Maheshwar Ligade

@nbro Если я согласен с вашей точкой зрения, у каждого свой темп обучения, то хотя бы немногие могут воспользоваться этим ответом
Maheshwar Ligade

Этот ответ больше применим к инженерам, а не к исследователям и ученым
Maheshwar Ligade
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.