Как оператор обратной косой черты в MATLAB решает

Я сравнивал несколько своих кодов с «стандартными» кодами MATLAB. Я удивлен результатами.

Я запустил пример кода (разреженная матрица)

n = 5000;
a = diag(rand(n,1));
b = rand(n,1);
disp('For a\b');
tic;a\b;toc;
disp('For LU');
tic;LULU;toc;
disp('For Conj Grad');
tic;conjgrad(a,b,1e-8);toc;
disp('Inv(A)*B');
tic;inv(a)*b;toc;

Полученные результаты :

    For a\b
    Elapsed time is 0.052838 seconds.

    For LU
    Elapsed time is 7.441331 seconds.

    For Conj Grad
    Elapsed time is 3.819182 seconds.

    Inv(A)*B
    Elapsed time is 38.511110 seconds.

Для плотной матрицы:

n = 2000;
a = rand(n,n);
b = rand(n,1);
disp('For a\b');
tic;a\b;toc;
disp('For LU');
tic;LULU;toc;
disp('For Conj Grad');
tic;conjgrad(a,b,1e-8);toc;
disp('For INV(A)*B');
tic;inv(a)*b;toc;

Полученные результаты:

For a\b
Elapsed time is 0.575926 seconds.

For LU
Elapsed time is 0.654287 seconds.

For Conj Grad
Elapsed time is 9.875896 seconds.

Inv(A)*B
Elapsed time is 1.648074 seconds.

Как, черт возьми, это так круто?

В Matlab команда '\' вызывает алгоритм, который зависит от структуры матрицы A и включает проверки (небольшие накладные расходы) на свойства A.

1. Если A разреженный и полосатый, используйте решатель полос.
2. Если A - верхняя или нижняя треугольная матрица, используйте алгоритм обратной подстановки.
3. Если A симметрична и имеет реальные положительные диагональные элементы, попробуйте факторизацию Холецкого. Если A мало, сначала используйте переупорядочение, чтобы минимизировать заполнение.
4. Если ни один из вышеуказанных критериев не выполняется, выполните общую треугольную факторизацию с использованием исключения Гаусса с частичным поворотом.
5. Если A немного, используйте библиотеку UMFPACK.
6. Если A не является квадратом, используйте алгоритмы, основанные на факторизации QR для неопределенных систем.

Чтобы уменьшить накладные расходы, можно использовать команду linsolve в Matlab и выбрать подходящий решатель среди этих вариантов самостоятельно.

Если вы хотите увидеть, что a\bподходит для вашей конкретной матрицы, вы можете установить spparms('spumoni',1)и точно определить , какой алгоритм вас впечатлил. Например:

spparms('spumoni',1);
A = delsq(numgrid('B',256));
b = rand(size(A,2),1);
mldivide(A,b);  % another way to write A\b

будет выводить

sp\: bandwidth = 254+1+254.
sp\: is A diagonal? no.
sp\: is band density (0.01) > bandden (0.50) to try banded solver? no.
sp\: is A triangular? no.
sp\: is A morally triangular? no.
sp\: is A a candidate for Cholesky (symmetric, real positive diagonal)? yes.
sp\: is CHOLMOD's symbolic Cholesky factorization (with automatic reordering) successful? yes.
sp\: is CHOLMOD's numeric Cholesky factorization successful? yes.
sp\: is CHOLMOD's triangular solve successful? yes.

так что я вижу, что "\" в конечном итоге использовало "CHOLMOD" в этом случае.

Для разреженных матриц Matlab использует UMFPACK для \операции " ", которая, в вашем примере, в основном пробегает значения a, инвертирует их и умножает их на значения b. Для этого примера, однако, вы должны использовать b./diag(a), что намного быстрее.

Для плотных систем оператор обратной косой черты немного сложнее. Краткое описание того, что делается, когда дается здесь . Согласно этому описанию, в вашем примере Matlab решит, a\bиспользуя обратную подстановку. Для общих квадратных матриц используется LU-разложение.

Как правило, если у вас есть разреженная матрица разумной сложности (т. Е. Это не обязательно должен быть шаблон из 5 точек, но на самом деле это может быть дискретизация уравнений Стокса, для которых число ненулевых элементов в строке равно намного больше, чем 5), тогда разреженный прямой решатель, такой как UMFPACK, обычно побеждает итеративный решатель Крылова, если проблема не превышает приблизительно 100 000 неизвестных.

Другими словами, для большинства разреженных матриц, полученных в результате двумерных дискретизаций, прямой решатель является самой быстрой альтернативой. Только для трехмерных задач, когда вы быстро получаете более 100 000 неизвестных, становится необходимым использовать итеративный решатель.