Безопасное применение итерационных методов на диагонально-доминантных матрицах

Предположим, что задана следующая линейная система

$$Lx=c,\tag1$$ где представляет собой взвешенное лапласиан , как известно, положительно определенной с одномерным нуль - пространство , натянутое на , а перевод дисперсия , т. е. не меняет значение функции (производная которой ). Единственные положительные элементы в находятся на его диагонали, которая является суммой абсолютных значений отрицательных недиагональных элементов.$L$$semi-$$1_n=(1,\dots,1)\in\mathbb{R}^n$$x\in\mathbb{R}^{n}$$x+a1_n$$(1)$$L$

Я обнаружил в одной высоко цитируемой научной работе в этой области, что, хотя является диагонально доминирующим, такие методы, как Conjugate Gradient, Gauss-Seidl, Jacobi, все еще можно безопасно использовать для решения . Обоснование состоит в том, что из-за инвариантности перевода можно безопасно зафиксировать одну точку (например, удалить первую строку и столбец и первую запись из ), тем самым преобразовав в диагонально доминирующую матрицу. В любом случае, исходная система решается в полной форме с .$L$$not~strictly$$(1)$$L$$c$$L$$strictly$$(1)$$L\in\mathbb{R}^{n\times n}$

Верно ли это предположение, и, если да, каково альтернативное обоснование? Я пытаюсь понять, как сближение методов все еще держится.

Если метод Якоби сходится с $(1)$Что можно сказать о спектральном радиусе? $\rho$ итерационной матрицы $D^{-1}(D-L)$, где $D$ диагональная матрица с записями $L$по диагонали? Является$\rho(D^{-1}(D-L)\leq1$Таким образом, отличается от общих гарантий сходимости для $\rho(D^{-1}(D-L))<1$? Я спрашиваю это, так как собственные значения матрицы Лапласа$D^{-1}L$с теми, которые по диагонали должны быть в диапазоне$[0, 2]$,

Из оригинальной работы:

......................................

На каждой итерации мы вычисляем новый макет (x (t +1), y (t + 1)), решая следующую линейную систему:

$$L · x(t + 1) = L(x(t),y(t)) · x(t) \\ L · y(t + 1) = L(x(t),y(t)) · y(t) \tag 8$$ Без потери общности мы можем зафиксировать местоположение одного из датчиков (используя степень перемещения локализованного напряжения) и получить строго диагонально доминирующую матрицу. Поэтому мы можем смело использовать итерацию Якоби для решения (8)

.......................................

Выше понятие «итерация» относится к базовой процедуре минимизации, и ее не следует путать с итерацией Якоби. Итак, система решается Якоби (итеративно), и затем решение покупается в правой части (8), но теперь для другой итерации базовой минимизации. Я надеюсь, что это проясняет вопрос.

Обратите внимание, что я нашел Какие итерационные линейные решатели сходятся для положительных полуопределенных матриц? , но ищу более сложный ответ.

Итерация Якоби может быть доказана сходящейся.

Первое, что вы должны убедиться, что $c^T \mathbf{1}_n = 0$, что является условием существования решения (полагаю $L=L^T$иначе тебе нужно $c\in (\mathrm{Ker} L^T)^\perp$) потому что ты сказал $V_0:=\mathrm{Ker} L = \mathrm{span}\{\mathbf{1}_n\}$, Мы будем использовать соглашение, которое$V_0$также является матрицей со столбцами, являющимися ее ортонормированной основой. В твоем случае,$V_0:=\mathbf{1}_n/\sqrt{n}$,

Тогда для ошибок итерации Якоби в исходной системе вы

$$e_1 = (I-D^{-1}L)e_0 = (I-D^{-1}L) (P e_0 + V_0a)=(I-D^{-1}L) P e_0 + V_0a,$$ где $P:=I-V_0V_0'$ это ортогональная проекция на $V_1:=V_0^\perp$, Из приведенной выше итерации мы знаем, что $$P e_1 = P (I-D^{-1}L) P e_0,$$
из которой у нас есть итерационная матрица $S$ в $V_1$, $$S: = P (I-D^{-1}L) P.$$ Не то $S$ имеет одинаковые спектры (кроме нулей) со следующей матрицей $$\tilde{S}:= (I-D^{-1}L) P P=(I-D^{-1}L) P=(I-D^{-1}L)(I-V_0V_0')\\ =I-D^{-1}L-V_0V_0'.$$ Мы хотим, чтобы спектральный радиус $S$ меньше, чем один, чтобы доказать сходимость.

Следующая цитата старая и хранится только для справки. Смотрите после для нового доказательства.

В твоем случае, $V_0V_0'=\frac{1}{n}\mathbf{1}_{n\times n}.$ И вы можете убедиться, что $D^{-1}L+V_0V_0'$ строго по диагонали с использованием предположения, что записи $L$положительны по диагонали и отрицательны в противном случае. Чтобы показать собственные значения $D^{-1}L+V_0V_0'$ реальны, отметим, что матрица самосопряжена относительно внутреннего произведения $<x,y>:=y^TDx.$

Если $V_0$не в вашей конкретной форме, я не нашел ответа на вопрос о конвергенции. Может кто-то это прояснить?

Обратите внимание, что $V_0$ собственный вектор, соответствующий собственному значению $1$ из $I-D^{-1}L$, Основываясь на наблюдении, мы называем теорему 2.1 из собственных значений обновленных матриц ранга 1 с некоторыми приложениями Джиу Дина и Ай-Хуэй Чжоу.

Теорема 2.1 Пусть$u$ а также $v$ быть двумя $n$векторы столбцов такие, что $u$ является собственным вектором $A$ связано с собственным значением $\lambda_1$, Тогда собственные значения$A+uv^T$ находятся $\{\lambda_1+u^Tv,\lambda_2,\ldots,\lambda_n\}$ считая алгебраическую кратность.

Тогда мы знаем, что спектры $\tilde{S}$ такой же как $I-D^{-1}L$ кроме того, что собственное значение $1$ в последнем сдвигается на $-1$в собственное значение ноль в первом. поскольку$\rho(I-D^{-1}L)\subset (-1,1]$, у нас есть $\rho(\tilde{S})\subset (-1,1)$,

Методы Крылова никогда явно не используют размерность пространства, в котором они итерируются, поэтому вы можете запускать их в особых системах, пока вы сохраняете итерации в ненулевом подпространстве. Обычно это делается путем проецирования пустого пространства на каждой итерации. Есть две вещи, которые могут пойти не так: первая встречается гораздо чаще, чем вторая.

1. Предусловие неустойчиво применительно к сингулярному оператору. Прямые решатели и неполная факторизация могут обладать этим свойством. На практике мы просто выбираем разные предварительные кондиционеры, но есть более принципиальные способы создания предварительных кондиционеров для единичных систем, например, Zhang (2010). .
2. На некоторой итерации, $x$ находится в ненулевом подпространстве, но $A x$живет полностью в нулевом пространстве. Это возможно только с несимметричными матрицами. Немодифицированный GMRES ломается в этом сценарии, но см. Reichel и Ye (2005) для вариантов без поломок.

Для решения особых систем с использованием PETSc см. KSPSetNullSpace() . Большинство методов и предварительных кондиционеров могут решать особые системы. На практике малое нулевое пространство для PDE с граничными условиями Неймана почти никогда не является проблемой, если вы сообщаете решателю Крылова о нулевом пространстве и выбираете разумный предобусловливатель.

Судя по комментариям, вас особенно интересует Якоби. (Почему? Якоби полезен как многосеточный сглаживатель, но есть гораздо лучшие методы для использования в качестве решателей.) Якоби применил к$A x = b$ не сходится, когда вектор $b$ имеет компонент в нулевом пространстве $A$однако часть решения, ортогональная нулевому пространству, действительно сходится, поэтому, если вы проецируете нулевое пространство из каждой итерации, она сходится. В качестве альтернативы, если вы выбираете последовательный$b$и начальное предположение, итерации (в точной арифметике) не накапливают компоненты в нулевом пространстве.