В качестве отправной точки я бы использовал метод нелинейной усадки с некоторым видом вейвлет-преобразования (хотя они не являются специфическими для вейвлет-преобразований). Правила усадки являются концептуально простыми, быстрыми и простыми в реализации, но в то же время дают отличные результаты.
Предпосылка состоит в том, что ваш желаемый сигнал может быть представлен в некоторой области, так что большая часть энергии сконцентрирована в небольшом количестве коэффициентов. И наоборот, шум все еще распространяется по всем коэффициентам (что, вероятно, для AWGN). Затем вы можете «сжать» коэффициенты - уменьшив их значения согласно некоторому нелинейному правилу - так, чтобы влияние на сигнал было незначительным по сравнению с воздействием на шум.
Вейвлет-преобразования являются хорошим преобразованием для использования, поскольку они хорошо сжимают энергию в небольшое количество коэффициентов. Я лично рекомендую двойное комплексное вейвлет-преобразование (DTCWT) для его дополнительных приятных свойств.
2 очень хорошие статьи по этой теме являются это и это (как из одних и тех же авторов). Документы являются настоящим удовольствием с точки зрения их читабельности и ясности объяснения. (также есть хорошие фотографии Ленны, которая не звучит :)
Конечно, есть более свежие статьи, но они, как правило, не добавляют большого количественного улучшения по сравнению с очень простыми методами, описанными в этих статьях.