Каковы симптомы плохой подготовки при использовании прямых методов?

Предположим, у нас есть линейная система, и мы ничего не знаем о ее обусловленности и не имеем предварительной информации о решении. Мы слепо применяем исключение Гаусса и получаем некоторое решение $x$ . Можно ли определить, заслуживает ли доверия данное решение (т. Е. Хорошо ли обусловлена система) без тщательного предварительного анализа матрицы ? Величина опорных точек дает достоверную информацию?

И вообще, каковы основные рекомендации по обнаружению плохой подготовки "на лету"?

linear-solver condition-number conditioning

— faleichik
источник

Ответы:

Когда матрица плохо обусловлена ? Это зависит от точности решения, которое вы ищете, а также "красота в глазах смотрящего" ...

Может быть, ваш вопрос лучше перефразировать, так как существуют дешевые и надежные оценки числа условий, основанные на факторизации ? $LU$

Предполагая, что вас интересует реальная общая (плотная, несимметричная) задача в арифметике двойной точности, я бы предложил вам использовать экспертный решатель LAPACK DGESVX, который дает оценку состояния в форме ее обратной , . В качестве бонуса у вас есть и другие полезности, такие как уравнение / балансировка уравнений, итеративное уточнение, границы ошибок вперед и назад. Кстати, патологическое недоброжелательное состояние ( ) сигнализируется как ошибка . $\text{RCOND}\approx 1/\kappa(A)$ $\kappa(A) > 1/\epsilon$ INFO>0

Если говорить более подробно, LAPACK оценивает число условий в 1-норме (или -норме, если вы решаете ) через DGECON . Базовый алгоритм описан на газоне 36: «Надежные треугольные решения для использования в оценке условий» . $\infty$ $A^T x = b$

Я должен признаться, что я не эксперт в этой области, но моя философия такова: «если это достаточно хорошо для LAPACK, это для меня».

— Стефано М
источник

При решении плохо обусловленной системы уравнений с матрицей нормы 1 случайная правая часть нормы 1 с большой вероятностью будет иметь норму порядка номера условия. Таким образом, вычисление нескольких таких решений покажет вам, что происходит.

— Арнольд Ноймайер
источник

Это действительно то, что делает DGECON, с добавленной утонченностью итеративного уточнения направления поиска, чтобы максимизировать результат, и с использованием специального треугольного решателя (не BLAS), чтобы не искажать вещи из-за ошибок аппроксимации. Таким образом, вычислительная стоимость DGECON сопоставима с вашим простым тестом. +1 за то, что помнили нам о простом значении норм матрицы и номера условия. Было бы интересно узнать, действительно ли DGECON более устойчив к простой случайной проверке.

— Стефано М

Учитывая, что число условий решения

совпадает с числом условий вычисления

, достаточно ли просто умножить масштабированную матрицу на эти случайные векторы вместо фактического решения

A x = b

$Ax=b$

A x

$Ax$

A x = b

$Ax=b$

— фалейчик

@faleichik Конечно нет: хитрость здесь не в масштабе

так , что

. Конечно, будучи линейной алгеброй, вам не нужно фактически масштабировать

а только

... тем не менее, вам сначала нужно вычислить

. Ваш обратный аргумент потребует сначала вычислить

A

$A$

‖ A ‖ = 1

$\| A \| = 1$

κ (A) = ‖ A ‖ \cdot ‖ A^{- 1} ‖ = ‖ A^{- 1} ‖

$\kappa(A) = \| A \| \cdot \| A^{-1} \| = \| A^{-1} \|$

A

$A$

A x

$Ax$

‖ A ‖

$\| A \|$

‖ A^{- 1} ‖

$\| A^{-1} \|$ что то, что мы стремимся оценить.

— Стефано М

Почти невозможно сказать, плохо ли ваша система обусловлена одним результатом. Если у вас нет некоторого предвидения поведения вашей системы (т.е. вы не знаете, какое решение ДОЛЖНО быть), вы мало что можете сказать из одного решения.

Сказав это, вы можете получить больше информации , если вы решите более чем одну систему с тем же . Предположим, у вас есть система вида . Для конкретного А, который у вас нет предварительных знаний о его обусловленности, вы можете выполнить следующий тест: $A$ $Ax=b$

$Ax=b$ $b$
$b_{new}=b+\mathbf{\varepsilon}$ $||\mathbf{\epsilon}||$ $||b||$
$Ax_{new}=b_{new}$
$||x-x_{new}||$ $||x-x_{new}||$

$\Theta(n^3)$ $\Theta(n^2)$ $||A||\cdot||A^{-1}||$

— Пол
источник

Θ (k n^{3})

$\Theta(kn^3)$

A

$A$

A

$A$

O (n^{3})

$O(n^3)$

O (n^{2})

$O(n^2)$

@JackPoulson: Вы абсолютно правы ... Я думаю, что я полностью отошел от этого. Не беспокойся :) Я обновлю свой ответ

— Пол

| | A Икс - б | |

$||Ax - b ||$

| | A | | \cdot | | Икс | |

$||A||\cdot||x||$

A

$A$

@ Reid.Atcheson: Не совсем. Приближенное решение для плохо обусловленной системы все еще может привести к небольшому остатку. Это на самом деле не дает никаких указаний на то, как далеко это от истинного решения.

— Пол

‖ ε ‖

$\|\varepsilon\|$

‖ b ‖

$\|b\|$