Требование к памяти для быстрого умножения матриц

Предположим, мы хотим умножить матриц. Алгоритм медленного умножения матриц выполняется за время O ( n 3 ) и использует O ( n 2 ) памяти. Самое быстрое умножение матриц выполняется за время n ω + o ( 1 ) , где ω - постоянная линейной алгебры, но что известно о ее сложности памяти?$n \times n$$O(n^3)$$O(n^2)$$n^{\omega + o(1)}$$\omega$

Кажется, что априори возможно, что быстрое матричное умножение потребляет памяти. Есть ли гарантия того, что это можно сделать в памяти O ( n 2 ) ? Это тот случай, когда известные алгоритмы умножения матриц используют O ( n 2 ) памяти?$n^{\omega}$$O(n^2)$$O(n^2)$

(На самом деле меня интересует умножение прямоугольных матриц, но я предполагаю, что в этом случае ответ будет таким же, как и для квадратного случая, и квадратный случай лучше изучен.)

Использование пространства не более для всех алгоритмов, подобных Штрассену (т.е. основанных на верхнем ограничении ранга матричного умножения алгебраически). См. Пространственная сложность алгоритма Копперсмита – Винограда$O(n^2)$

Тем не менее, в своем предыдущем ответе я понял, что не объяснил, почему используется пространство ... так что тут что-то волнистое. Рассмотрим, что делает алгоритм, подобный Штрассену. Он начинается с фиксированного алгоритма умножения матрицы K × K, который использует умножения K c для некоторой константы c < 3 . В частности, этот алгоритм (каким бы он ни был) может быть написан на WLOG так, чтобы:$O(n^2)$$K \times K$$K^c$$c < 3$

1. Он вычисляет различных матриц L 1 , … , L K c, которые умножают записи первой матрицы A на различные скаляры и матрицы K c R 1 , … , R K c из второй матрицы B аналогичной формы,$K^c$$L_1,\ldots,L_{K^c}$$A$$K^c$$R_1,\ldots,R_{K^c}$$B$

2. Он умножает эти линейные комбинации , тогда$L_i \cdot R_i$

3. Умножает элементы матрицы различными скаляров, а затем добавляет все эти матрицы вверх entrywise получить A ⋅ B .$L_i \cdot R_i$$A \cdot B$

(Это так называемый «билинейный» алгоритм, но оказывается, что каждый «алгебраический» алгоритм умножения матриц может быть записан таким образом.) Для каждого этот алгоритм должен хранить только текущий продукт л я ⋅ R я и текущее значение A ⋅ B (первоначально установлено на все нули) в памяти в любой заданной точке, таким образом , использование пространства O ( K 2 ) .$i=1,\ldots,K^c$$L_i \cdot R_i$$A \cdot B$$O(K^2)$

С учетом этого конечного алгоритма, то затем продолжается до произвольного матриц, разбивая большие матрицы в K × K блоков размерами K л - 1 × K л - 1 , применяя конечное K × K алгоритм к блоку матрицы и рекурсивный вызов алгоритма всякий раз, когда необходимо умножить два блока. На каждом уровне рекурсии нам нужно хранить только O ( K 2 ℓ ) элементов поля в памяти (сохраняя O ( 1 $K^{\ell} \times K^{\ell}$$K \times K$$K^{\ell-1}\times K^{\ell-1}$$K \times K$$O(K^{2\ell})$$O(1)$отличается матрицы). Предполагая, что использование пространства для умножения матрицы K ℓ - 1 × K ℓ - 1 равно S ( ℓ - 1 ) , использование пространства этого рекурсивного алгоритма составляет S ( ℓ ) ≤ S ( ℓ - 1 ) + O ( K 2 ℓ ) который для S ( 1 ) = 2 K $K^{\ell} \times K^{\ell}$$K^{\ell-1}\times K^{\ell-1}$$S(\ell-1)$$S(\ell) \leq S(\ell-1) + O(K^{2\ell})$$S(1) = 2K^2$решает в .$S(\ell) \leq O(K^{2\ell})$

$p$$O(n^2/p)$