Какую проблему представляет белый шум для реального использования DNN?

Я читал, что глубокие нейронные сети могут быть относительно легко обмануты ( ссылка ), чтобы дать высокую степень уверенности в распознавании синтетических / искусственных изображений, которые полностью (или, по крайней мере, в основном) находятся вне предмета доверия.

Лично я не вижу большой проблемы с DNN, дающей высокую достоверность этим синтетическим / искусственным изображениям, но я думаю, что предоставление высокой достоверности для белого шума ( ссылка ) может быть проблемой, так как это действительно естественное явление, которое может видеть камера в реальном мире.

Какую проблему представляет белый шум для реального использования DNN? Можно ли как-то предотвратить такие ложные срабатывания от простого шума?

Белый шум, который обманывает DNN, на самом деле не белый шум. Это было изменено так же, как синтетические неправильно классифицированные изображения были изменены. Вы должны изменить многие входные пиксели именно таким образом, чтобы эти небольшие изменения не были заметны, а распространялись по сети, что в итоге приводило к ошибочной классификации. Это не произойдет случайно.