Существуют ли эвристики для оптимизации метода последовательной избыточной релаксации (SOR)?

Насколько я понимаю, последовательная релаксация работает путем выбора параметра $0\leq\omega\leq2$ и использования линейной комбинации (квази) итерации Гаусса-Зейделя и значения на предыдущем временном шаге ... то есть

${u}^{k+1} = (\omega){u_{gs}}^{k+1} + (1-\omega)u^{k}$

Я состояние «квази» , потому что ${u_{gs}}^{k+1}$ включает в себя последнюю информацию обновленное в соответствии с этим правилом, в любом временном шаге. (заметьте, что при $\omega=1$ это точно гаусс-сейдель).

В любом случае я читал, что при оптимальном выборе для $\omega$ (так что итерация сходится быстрее, чем в любой другой) приближается к 2 для задачи Пуассона, когда пространственное разрешение приближается к нулю. Существует ли подобная тенденция для других симметричных, диагонально доминирующих задач? То есть есть ли способ выбрать омега оптимально, не встраивая его в схему адаптивной оптимизации? Существуют ли другие эвристики для других типов проблем? Какие виды проблем были бы недостаточной релаксации ( $\omega<1$ ) было бы оптимальным?

linear-algebra optimization iterative-method

— Пол
источник

Не совсем твой вопрос, но см. Салахутдинов и Ровейс, Адаптивные методы чрезмерно релаксирующих границ 2003, 8с. (У адаптивных ускорений высокая отдача за доллар, но на самом деле их невозможно проанализировать, поэтому не по теме здесь.)

— Денис

Затухший якоби

Пусть матрица имеет диагональ . Если спектр лежит в интервале положительной вещественной оси, то итерационная матрица Якоби с коэффициентом затухания имеет спектр в диапазоне , поэтому минимизируем спектральный радиус при $A$ $D$ $D^{-1}A$ $[a,b]$ $\omega$

В_{Якоби} знак равно я - ω D^{- 1} A

$B_\text{Jacobi} = I - \omega D^{-1} A$

[1 - ω b, 1 - ω a]

$[1 - \omega b,1 - \omega a]$

дает коэффициент сходимости

ω_{выбирать} знак равно \frac{2}{a + б}

$\omega_{\text{opt}} = \frac 2 {a + b}$

Если

, то этот коэффициент сходимости очень плохой, как и ожидалось. Обратите внимание, что сравнительно легко оценить

с помощью метода Крылова, но довольно дорого оценить

ρ_{выбирать} знак равно 1 - \frac{2 a}{a + б} знак равно \frac{б - a}{a + б},

$\rho_\text{opt} = 1 - \frac{2a}{a+b} = \frac{b-a}{a+b}.$

a ≪ b

$a \ll b$

b

$b$

a

$a$

Последовательная чрезмерная релаксация (SOR)

$D^{-1}A$ $\mu_\max$ $I - D^{-1} A$ $\mu_\max < 1$

ω_{выбирать} знак равно 1 + {(\frac{μ_{Максимум}}{1 + \sqrt{1 - μ_{Максимум}^{2}}})}^{2}

$\omega_\text{opt} = 1 + \left( \frac{\mu_\max}{1 + \sqrt{1 - \mu_\max^2}} \right)^2$

ρ_{выбирать} знак равно ω_{выбирать} - 1.

$\rho_\text{opt} = \omega_\text{opt} - 1.$

ω_{opt}

$\omega_\text{opt}$

μ_{max} \to 1

$\mu_\max \to 1$

Я согласен, что это уже не 1950 год: о), однако я не согласен с тем, что больше нет смысла использовать стационарные итеративные решатели. Мы можем добиться многосеточной эффективности учебника, используя стационарный итерационный решатель для решения прикладных задач инженерного характера, основанный на нелинейных решателях со свободной поверхностью высокого порядка (как потенциального потока, так и уравнения Эйлера). Эффективность была такой же хорошей, как и у заранее подготовленного метода подпространства Крылова GMRES с достижимой точностью (наш недавний паб находится здесь: onlinelibrary.wiley.com/doi/10.1002/fld.2675/abstract, служащий в качестве подтверждения концепции).

— Аллан П. Энгсиг-Каруп

Вы используете Gauss-Seidel в качестве сглаживающего средства для многосетки (к которой относятся такие методы, как SOR). Если многосетка работает хорошо, внешний метод Крылова также не нужен (хотя в вашей статье эти сравнения не показаны). Как только многосетка начинает терять эффективность (например, более 5 итераций для достижения ошибки дискретизации), обычно стоит обернуть метод Крылова вокруг многосеточного цикла.

— Джед Браун

Весь метод представляет собой p-многосетку со сглаживанием типа GS, однако полный метод можно записать как стационарный итерационный метод, поскольку все операторы постоянны. Вы можете рассматривать его как предобусловленный метод Ричардсона, а M - предобусловливатель, построенный из многосеточного метода. Анализ был сделан, но еще не опубликован. На самом деле, эта работа пошла в другом направлении, которое вы предлагаете. Метод Крылова в этой работе (GMRES) был отброшен, а затем он был превращен в многосеточный метод высокого порядка, поскольку мы обнаружили, что он был столь же эффективным (и с уменьшенными требованиями к памяти).

— Аллан П. Энгсиг-Каруп

p

$p$

h p

$hp$

Обратите внимание, что в многосеточных сглаживателях иногда предпочтительно (если позволяет архитектура) сделать мультипликативную связь высокого порядка / низкого порядка. Это также расширяет формулировку «Ричардсон». (На прошлой неделе у меня была дискуссия на конференции с парнем, который хотел рассмотреть практически все методы как предварительно подготовленные Ричардсона с вложенной итерацией, что, я не думаю, является особым преимуществом по сравнению с другими утверждениями состава решателя. Я не знаю, является ли это имеет отношение к вам, но ваши замечания напомнили мне о дискуссии.)

— Джед Браун

Существуют ли эвристики для оптимизации метода последовательной избыточной релаксации (SOR)?

Затухший якоби

Последовательная чрезмерная релаксация (SOR)

Комментарии