Я ни в коем случае не эксперт по автоэнкодерам или нейронным сетям, так что извините, если это глупый вопрос.
В целях уменьшения размеров или визуализации кластеров в многомерных данных мы можем использовать автоэнкодер для создания двумерного представления (с потерями) путем проверки выходных данных сетевого уровня с двумя узлами. Например, при следующей архитектуре мы будем проверять выходные данные третьего уровня
где - входные данные, а - количество узлов в м слое.N l l
Теперь мой вопрос: зачем нам симметричная архитектура? Разве зеркало глубокой фазы «сжатия» не означает, что у нас может быть такая же сложная фаза «декомпрессии», которая приводит к выходу из 2 узлов, который не обязательно должен быть очень интуитивным? Другими словами, разве более простая фаза декодирования не приведет к тому, что вывод слоя с 2 узлами тоже обязательно будет проще?
Я думаю, что чем менее сложна фаза декомпрессии, тем проще (более линейным?) 2D представление. Более сложная фаза декомпрессии позволила бы более сложное 2D представление.