Покажите, как сделать FFT вручную

Скажем, у вас есть два полинома: и .$3 + x$$2x^2 + 2$

Я пытаюсь понять, как БПФ помогает нам умножить эти два полинома. Однако я не могу найти какие-либо разработанные примеры. Может кто-нибудь показать мне, как алгоритм FFT умножит эти два полинома. (Примечание: в этих многочленах нет ничего особенного, но я хотел, чтобы это было просто, чтобы было легче следовать.)

Я посмотрел на алгоритмы в псевдокоде, но все они, похоже, имеют проблемы (не указывайте, какой должен быть ввод, неопределенные переменные). И, что удивительно, я не могу найти, где кто-нибудь на самом деле прошел (вручную) пример умножения многочленов с использованием БПФ.

Предположим, что мы используем четвертые корни единицы, что соответствует замене $1,i,-1,-i$ на $x$ . Мы также используем прореживание по времени, а не прореживание по частоте в алгоритме FFT. (Мы также без проблем применяем операцию обращения битов.)

Чтобы вычислить преобразование первого полинома, мы начнем с записи коэффициентов:

$$3,1,0,0.$$ Преобразование Фурье четных коэффициентов $3,0$ равно $3,3$ , а нечетных коэффициентов $1,0$ равно $1,1$ . (Это преобразование просто $a,b \mapsto a+b,a-b$ .) Следовательно, преобразование первого полинома равно $$4,3+i,2,3-i.$$ Это получается с использованием$X_{0,2} = E_0 \pm O_0$ ,$X_{1,3} = E_1 \mp i O_1$ . (Из расчета тиддл-фактора).

Давайте сделаем то же самое для второго полинома. Коэффициенты равны

$$2,0,2,0.$$ Четные коэффициенты $2,2$ преобразуются в $4,0$ , а нечетные коэффициенты $0,0$ преобразуются в $0,0$ . Следовательно, преобразование второго полинома равно $$4,0,4,0.$$

Мы получаем преобразование Фурье полинома произведений, умножая два преобразования Фурье поточечно:

$$16, 0, 8, 0.$$ Осталось вычислить обратное преобразование Фурье. Четные коэффициенты $16,8$ обратного преобразования в $12,4$ и нечетные коэффициенты $0,0$ обратного преобразования в $0,0$ . (Обратное преобразование: $x,y \mapsto (x+y)/2,(x-y)/2$ ) Следовательно, преобразование полинома произведений равно $$6,2,6,2.$$ Это получается с помощью$X_{0,2} = (E_0 \pm O_0)/2$ ,$X_{1,3} = (E_1 \mp i O_1)/2$ . Мы получили желаемый ответ $$(3 + x)(2 + 2x^2) = 6+2x+6x^2+2x^3.$$

Определите полиномы, где deg(A) = qи deg(B) = p. deg(C) = q + p.

В этом случае deg(C) = 1 + 2 = 3.

$$A = 3 + x \\ B = 2x^2 + 2 \\ C = A*B = ?$$

Мы легко можем найти C за время $O(n^2)$ путем умножения коэффициентов методом грубой силы. Применяя БПФ (и обратное БПФ), мы могли бы достичь этого за $O(n\log(n))$ времени. Явное:

1. Преобразуйте представление коэффициента A и B в его представление значения. Этот процесс называется оценкой . Выполнение «Разделяй и властвуй» (D & C) для этого займет время $O(n\log(n))$ .
2. Умножьте многочлены по компонентам в их представлении значения. Это возвращает представление значения C = A * B. Это займет $O(n)$ время.
3. Инвертируйте C, используя обратное БПФ, чтобы получить C в его представлении коэффициента. Этот процесс называется интерполяцией и также занимает время $O(n\log(n))$ .

Continuing along, we represent each polynomial as a vector whose value are its coefficients. We pad the vector with 0's up to the smallest power of two, $n = 2^k, n \geq deg(C)$. Thus $n = 4$. Choosing a power of two provides us a way to recursively apply our divide-and-conquer algorithm.

$$\begin{align} &A = 3+x+0x^2+0x^3 \Rightarrow &\vec{a} = [3, 1, 0, 0]\\ &B = 2+0x+2x^+0x^3 \Rightarrow & \vec{b} = [2, 0, 2, 0] \end{align}$$

Let $A', B'$ be the value representation of A and B, respectively. Notice that FFT (Fast Fourier Transform) is a linear transformation (linear map) and can be represented as a matrix, $M$. Thus

$$A' = M \overrightarrow{a} \\ B' = M \overrightarrow{b}$$

We define $M = M_n(\omega)$ where $\omega$ is complex roots $n^{th}$ complex roots of unity. Notice n = 4, in this example. Also notice that the entry in the $j^{th}$ row and $k^{th}$ column is $\omega_n^{jk}$ . See more about the DFT matrix here

$$M_4(w) = \begin{bmatrix} 1 & 1 & 1 & ... & 1\\ 1 & \omega^1 & \omega^2 & ... & \omega^{n-1}\\ 1 & \omega^2 & \omega^{4} & ... & ... \\ ... & ... & ... & \omega^{jk} & ...\\ 1 & \omega^{n-1} & \omega^{2(n-1)} & ... & \omega^{(n-1)(n-1)} \end{bmatrix} = \begin{bmatrix} 1 & 1 & 1 &1 \\ 1 &\omega & \omega^2 & \omega^3\\ 1 &\omega^2 & \omega^4 & \omega^6\\ 1 &\omega^3 & \omega^6 & \omega^9 \end{bmatrix}$$

Given the $\omega_4 = 4^{th}$ roots of unity, we have the ordered set equality:

$$\{\omega^{0},\omega^1, \omega^2, \omega^3, \omega^4, \omega^5, ... \} = \{1, i, -1, -i, 1, i, ...\}$$

This can be visualized as iterating thru roots of the unit circle in the counter-clockwise direction.

Also, notice the mod n nature, i.e. $\omega^6 = \omega^{6 \mod n} = \omega^{2} = -1$ and $-i = \omega^{3} = \omega^{3+n}$

To complete step 1 (evaluation) we find $A', B'$ by performing

$$A' = M * \vec{a} = \begin{bmatrix} 1 & 1 & 1 &1 \\ 1 &\omega & \omega^2 & \omega^3\\ 1 &\omega^2 & \omega^4 & \omega^6\\ 1 &\omega^3 & \omega^6 & \omega^9 \end{bmatrix} \begin{bmatrix} 3 \\ 1 \\ 0 \\ 0 \end{bmatrix} = \begin{bmatrix} 3 + 1 \\ 3 + 1 \omega \\ 3 + \omega^2 \\ 3 + \omega^3 \end{bmatrix} = \begin{bmatrix} 4 \\ 3 + i \\ 2 \\ 3 - i \end{bmatrix} \\ B' = M * \vec{b} = \begin{bmatrix} 1 & 1 & 1 &1 \\ 1 &\omega & \omega^2 & \omega^3\\ 1 &\omega^2 & \omega^4 & \omega^6\\ 1 &\omega^3 & \omega^6 & \omega^9 \end{bmatrix} \begin{bmatrix} 2 \\ 0 \\ 2 \\ 0 \end{bmatrix} = \begin{bmatrix} 2 + 2 \\ 2 + 2 \omega^2 \\ 2 + 2\omega^4 \\ 2 + 2\omega^6 \end{bmatrix} = \begin{bmatrix} 4 \\ 0 \\ 4 \\ 0 \end{bmatrix}$$

This step can be achieved using D&C algorithms (beyond the scope of this answer).

Multiply $A' * B'$ component-wise (step 2)

$$A' * B' = \begin{bmatrix} 4 \\ 3 + i \\ 2 \\ 3 - i \end{bmatrix} \begin{bmatrix} 4 \\ 0 \\ 4 \\ 0 \end{bmatrix} = \begin{bmatrix} 16 \\ 0\\ 8 \\ 0 \end{bmatrix} = C'\\ $$

Finally, the last step is to represent C' into coefficients. Notice

$$C' = M \vec{c} \\ \Rightarrow M^{-1}C' = M^{-1} M \vec{c} \\ \Rightarrow \vec{c} = M^{-1}C'$$

Notice $M_n^{-1} = \frac{1}{n} M_n(\omega^{-1})$¹ and $\omega^j = -\omega^{n/2 + j}$.

$$M_n^{-1} = \frac{1}{4} \begin{bmatrix} 1 & 1 & 1 &1 \\ 1 &\omega^{-1} & \omega^{-2} & \omega^{-3}\\ 1 &\omega^{-2} & \omega^{-4} & \omega^{-6}\\ 1 &\omega^{-3} & \omega^{-6} & \omega^{-9} \end{bmatrix} = \frac{1}{4} \begin{bmatrix} 1 & 1 & 1 & 1\\ 1 & -i & -1 & i \\ 1 & -1 & 1 & -1\\ 1 & i & -1 & -i \end{bmatrix}$$

$\omega^{-j}$ can be visualized as iterating thru roots of the unit circle in the clockwise direction.

$$\{\omega^{0},\omega^{-1}, \omega^{-2}, \omega^{-3}, \omega^{-4}, \omega^{-5}, ... \} = \{1, -i, -1, i, 1, -i, ...\}$$

Also, it is true that, given the $n^{th}$ root of unity, the equality $\omega^{-j} = \omega^{n-j}$ holds. (Do you see why?)

Then,

$$\vec{c} = M^{-1}C' = \frac{1}{n} M_n(w^{-1}) = \frac{1}{4} \begin{bmatrix} 1 & 1 & 1 & 1\\ 1 & -i & -1 & i \\ 1 & -1 & 1 & -1\\ 1 & i & -1 & -i \end{bmatrix} \begin{bmatrix} 16 \\ 0\\ 8 \\ 0 \end{bmatrix} = \begin{bmatrix} (16 + 8) /4 \\ (16 - 8) /4 \\ (16 + 8) /4 \\ (16 - 8) /4 \end{bmatrix} = \begin{bmatrix} 6 \\ 2\\ 6 \\ 2 \end{bmatrix}$$

Thus, we get the polynomial

$$C = A * B = 6 + 2x + 6x^2 + 2x^3$$ ¹: Inversion Formula pg 73, Algorithms by Dasgupta et. al. (C) 2006