Горячие темы сегодняшнего дня могут быть холодным, влажным пеплом завтрашнего дня. Например, скорость конвергенции подходов CNN и LSTM, особенно в сочетании, отвлекла значительное внимание от базовых конструкций RNN.
Точно так же холодные темы сегодняшнего дня могут быть горящими углями завтрашнего дня. Конечно, некоторые из холодных тем останутся холодными. Сладким местом может быть выявление тех, которые становятся теплее и, вероятно, будут устойчивыми строительными блоками будущих технологий.
Сети остаточного внимания
Сети с остаточным вниманием, такие как сети LSTM, являются улучшением по сравнению с сетями RNN, использующими другой подход. Поскольку сети внимания предназначены для экономии ресурсов, они либо сходятся быстрее, либо с меньшими требованиями к оборудованию и сети для поддержки параллельного выполнения.
- Сеть остаточного внимания для классификации изображений , Фэй Ванг и др., 2017
- Смотри ближе, чтобы видеть лучше: сверточная нейронная сеть с повторяющимся вниманием для детального распознавания изображений , Jianlong Fu et all, 2017
- VideoWhisper: на пути к обучению дискриминирующим функциям видео без присмотра с помощью рекуррентных нейронных сетей , основанных на внимании , На Чжао, 2017
- Иерархическая сеть с повторяющимся вниманием для генерации ответов Чэнь Син , Вэй Ву и др., 2017
Автоматизированная разработка не декартовых моделей
Исследования в области автоматизации моделирования являются ключевыми для многих приложений ИИ. Некоторые из разрабатываемых алгоритмов не просто извлекают тензоры признаков (массивы, матрицы, кубы и гиперкубы), но и разрабатывают графовые модели, направленные или ассоциативные, с допустимыми циклами или без них.
- Иерархическая система самоорганизующихся карт для классификации действий
Z Gharaee, P Gärdenfors, M Johnsson, ICAART, 2017
- Моделирование во время выполнения для ориентированных на пользователя интеллектуальных кибер-физических и человеческих приложений , Лорена Кастанеда Буэно, 2017
- Исследование топологических свойств сложных сетей, моделирующих короткие письменные тексты , Диего Р. Амансио, 2015
- Обобщение схем при выборе функций на основе связанных данных для рекомендательных систем , Azzurra Ragone et. al., 2017
Топологии сигналов, поддерживающие равновесие
Многие игнорируют важность GAN не потому, что они могут делать интересные вещи с изображениями, а из-за того, как они отклоняются от простой топологии пути прохождения сигнала, где сходимость по обученному набору параметров достигается в одномерном массиве слоев и блоков слои.
Дискриминирующие и порождающие компоненты в дизайне GAN описаны более подробно в другом вопросе об обмене стеками AI: * Понимание функции потери GAN . Хотя создание изображений из подхода GAN и его концептуальных дочерних элементов демонстрирует новую возможность в искусственном сетевом пространстве, широта этого значения для нескольких сетей может быть не сразу очевидна. Это не стек глубинных слоев, а стек двух глубоких сетей в топологии "восьмерка", концептуально очень похожий на полосу Мёбиуса.
Эта топология создает баланс между двумя сетями, порождающей (G) и дискриминационной (D). Его дизайнер назвал это состязательными отношениями, потому что G и D играют противоположные роли. Однако их действие в системе на самом деле является совместным, создавая баланс, который очень похож на химическое равновесие или симбиоз в биологии, так что конкретная цель достигается. Это может выявить наиболее перспективное направление в ИИ сегодня.
Проектирование топологий сигналов, которые поддерживают дополнительные формы сотрудничества и симбиоза между сетями, где каждая сеть является компонентом, который изучает свою роль в связке с другими сетями компонентов, так что совокупная система узнает, что ее функция может синтезировать формы искусственного интеллекта, которые DNN не может.
Системы на основе правил и глубокие сети являются одномерными с точки зрения потока сигналов. Сами по себе никогда не могут приблизиться к наиболее заметным чертам человеческого мозга.
Параллельная обработка с использованием графических процессоров в качестве DSP
Внедрение VLSI сетей с заострением внимания имеет важное значение, и в настоящее время существуют реализации, такие как https://github.com/Hananel-Hazan/bindsnet, которые используют аппаратное ускорение графического процессора для их исследования без доступа к микросхемам VLSI, разрабатываемым крупными корпорациями.
Распознавание речи и синтез для сквозного TTS
Недавнее появление передового опыта в синтезе с использованием таких систем, как Google WaveNet, открыло двери для более точных приложений TTS (текст в звук), так что, вероятно, сейчас хорошее время стать экспертом в области записи голоса для использования в учебных примерах, но плохое время для создания собственного производства речи с использованием динамиков.
Автоматизированные транспортные средства
Автоматизированные транспортные средства различных типов нуждаются в специалистах по физике транспортных средств, автомобильному производству, аэронавтике и потребительским товарам для широкого спектра типов транспортных средств с сильными экономическими и безопасными стимулами вождения полуавтоматики и полной автоматизации.
- Марс Ландерс
- Потребительские дроны
- Промышленные дроны
- Военные беспилотники
- Пассажирский самолет
- Легковые автомобили
- Limos
- Поезда
- Инвалидные коляски
- Средства доставки
- Автоматическое распределение продуктов питания
- Атомная установка ремонтных роботов
- Ремонт электрораспределительных роботов
Резюме
Может быть трудно заранее определить, какие из горячих технологий в области искусственного интеллекта будут оставаться доминирующими в течение пяти лет или какие из технологий потепления будут чертовски горячими в то время, но вышеизложенные являются надежными технологиями, демонстрирующими значительные перспективы на раннем этапе и для которых существует высокий бизнес, промышленные и потребительские требования.