Я искал в Google, Википедии, Google ученый и многое другое, но я не мог найти происхождение автоэнкодеров. Возможно, это одна из тех концепций, которые развивались очень постепенно, и невозможно проследить четкую отправную точку, но все же я хотел бы найти какое-то краткое изложение основных этапов их развития.
В главе об автоэнкодерах в книге Йена Гудфеллоу, Йошуа Бенжио и Аарона Курвилла говорится:
Идея автоэнкодеров на протяжении десятилетий была частью исторического ландшафта нейронных сетей (LeCun, 1987; Bourlard and Kamp, 1988; Hinton and Zemel, 1994). Традиционно автоэнкодеры использовались для уменьшения размерности или изучения особенностей.
В этой презентации Паскаля Винсента говорится:
Удаление шума с использованием классических автоэнкодеров было фактически введено намного раньше (LeCun, 1987; Gallinari et al., 1987), как альтернатива сетям Хопфилда (Hopfield, 1982).
Кажется, это подразумевает, что «классические автоэнкодеры» существовали до этого: ЛеКун и Галлинари использовали их, но не изобрели их. Я не вижу никаких следов "классических автоэнкодеров" ранее 1987 года.
Есть идеи?