Основываясь на том, что я узнал, мы используем несколько фильтров в Conv Layer CNN для изучения различных детекторов функций. Но так как эти фильтры применяются одинаково (то есть скользят и умножаются на области ввода), разве они не изучат одни и те же параметры во время обучения? Следовательно, использование нескольких фильтров было бы излишним?
Ответы:
У меня была такая же путаница в понимании этого факта. Путаница возникает у начинающих, потому что в книге подробно не сказано, что фильтры разные.
так как эти фильтры применяются аналогично
Фильтры применяются аналогично, но значение ячейки в матрице отличается от других фильтров. Таким образом, они извлекают различные функции из изображения.
не будут ли они просто изучать одни и те же параметры во время тренировки
Нет, они не изучают один и тот же параметр, поскольку фильтры теперь другие. Таким образом, использование нескольких фильтров не является избыточным.
Я нашел ответ на этот вопрос: https://www.quora.com/Why-does-each-filter-learn-different-features-in-a-convolutional-neural-network
Здесь говорится: «... (оптимизация) алгоритм обнаруживает, что потери не уменьшаются, если два фильтра имеют одинаковые веса и смещения, поэтому он в конечном итоге изменит один из фильтров (веса и смещения), чтобы тем самым уменьшить потери изучение новой функции. "
Спасибо за ответы. Ценить это :)