Одним из методов является использование исходного изображения / слоя в качестве его собственной маски слоя. Вы создадите дубликат слоя, обесцветите и инвертируете его, вставляя результат в градациях серого в маску исходного слоя.
Обновление: вот несколько пошаговых инструкций:
Начните с вашего сплющенного изображения:

Добавьте корректирующий слой Насыщенность / Оттенок и уменьшайте Насыщенность до тех пор, пока изображение не станет бесцветным. Если у вас нет какого-либо градиента в исходном изображении, вы можете просто вместо этого использовать корректирующий слой Threshold , что приведет к получению 100% черного или 100% белого.
(Технически вы можете пропустить шаг, так как мы вставим его в маску слоя, которая в любом случае преобразует его в оттенки серого. Это даст вам хороший визуальный ориентир, хотя и отрегулирует баланс черного / белого)

Добавьте корректирующий слой Invert , затем корректирующий слой Curves . Изменяйте кривые до тех пор, пока все, что вы хотите сделать сплошным / непрозрачным, не станет белым, а все, что вы хотите полностью прозрачным, станет черным. Возможно, вам придется настроить это несколько раз, чтобы получить правильные суммы.

Теперь CTRL+, Aчтобы выбрать все изображение и CTRL+ SHIFT+, Cчтобы скопировать объединенный результат в оттенках серого. Создайте маску слоя на вашем исходном слое. Теперь ALT+ Clickв значке маски слоя, чтобы войти в режим прямого редактирования. Теперь вставьте туда черно-белое изображение, которое вы только что скопировали.

Теперь нажмите на исходный слой, чтобы выйти из режима непосредственного редактирования маски слоя и скрыть все ваши корректирующие слои.
Вот оно! Если вы обнаружите, что ваш готовый результат не полностью непрозрачный (сплошной) в областях, которые вам нравятся, вы можете либо настроить кривые и сделать это снова (вам нужно больше белого в этих областях), либо просто дублировать результат / слой несколько раз, пока он не станет менее прозрачным (пример ниже).
Это также работает на черном фоне, только не используйте фильтр Invert layer.
Select > Color Range...
создать выделение, а затем замаскировать или удалить его?