Алгоритм произвольной точности целочисленного квадратного корня?

Существуют ли какие-либо известные субквадратичные алгоритмы для вычисления минимального значения квадратного корня из nцелого бита?

Наивный алгоритм будет что-то вроде

def sqrt(x):
    r = 0
    i = x.bit_length() // 2
    while i >= 0:
        inc = (r << (i+1)) + (1 << (i*2))
        if inc <= x:
            x -= inc
            r += 1 << i
        i -= 1
    return r

Это требует O(n)итераций, каждая из которых включает в себя дополнения, которые являются O(n)временем, так что это O(n^2)общее время. Есть ли что-нибудь быстрее? Я знаю, что для случая умножения есть специальные алгоритмы, которые работают лучше, чем квадратичное время, но я не могу найти ничего для квадратных корней.

Вы можете использовать метод Ньютона или любой из ряда других методов для нахождения приближений к корням полинома .$p(x) = x^2 -c$

Скорость сходимости для метода Ньютона будет квадратичной, что означает, что число правильных битов удваивается в каждой итерации. Это означает, что итераций метода Ньютона достаточно.$O(\lg n)$

Каждая итерация метода Ньютона вычисляет

$$x_{j+1} = x_j - (x_j^2 -c)/(2x_j) = 0.5 x_j + \frac{c}{2x_j}.$$

Битовая сложность умножения равна , чтобы умножить два разрядных целых числа (игнорируя факторы ). Битовая сложность для деления (до бит точности) одинакова. Следовательно, каждая итерация может быть вычислена в операциях . Умножая на итераций, мы находим, что общее время выполнения для вычисления квадратного корня до битов точности равно . Это субквадратичное.blglgbb O (nlgn)O(lgn)n O (n(lgn)2$\stackrel{~}{O}(b \lg b)$$b$$\lg \lg b$$b$$\stackrel{~}{O}(n \lg n)$$O(\lg n)$$n$$\stackrel{~}{O}(n (\lg n)^2)$

Я думаю, что более тщательный анализ показывает, что это можно улучшить до времени выполнения (принимая во внимание, что нам нужно знать только каждый с точностью до бит точности, а не бит точности). Тем не менее, даже более базовый анализ уже показывает время выполнения, которое явно субквадратично.xjj$\stackrel{~}{O}(n \lg n)$$x_j$$j$$n$

Одна из проблем метода Ньютона заключается в том, что он требует операции деления в каждой итерации, которая является самой медленной базовой целочисленной операцией.

Метод Ньютона для обратного квадратного корня, однако, не делает. Если - это число, для которого вы хотите найти , выполните итерацию:$x$$\frac{1}{\sqrt x}$

$$r_{i+1} = \frac{1}{2} r_i (3 - x r_i^2)$$

Это часто выражается как:

d i = 1 - w i x r i + 1 = r i + r i d

$$w_i = r_i^2$$ $$d_i = 1 - w_i x$$ $$r_{i+1} = r_i + \frac{r_i d_i}{2}$$

Это три операции умножения. Деление на два может быть реализовано как сдвиг вправо.

Теперь проблема в том, что не является целым числом. Тем не менее, вы можете манипулировать им как таковым, реализуя с плавающей запятой вручную и выполняя кучу операций сдвига, чтобы компенсировать, когда это необходимо.$r$

Во-первых, давайте изменим масштаб :$x$

$$x' = 2^{-2e} x$$

где мы хотели бы, чтобы было больше, но близко к . Если мы запустим вышеупомянутый алгоритм на вместо , мы найдем . Тогда . 1 x ′ x r = $x'$$1$$x'$$x$$r = \frac{1}{\sqrt x'}$$\sqrt{x} = 2^e r x'$

Теперь давайте разделим на мантиссу и показатель степени:$r$

$$r_i = 2^{-e_i} r'_i$$

где - целое число Интуитивно , что представляет точность ответа. e $r'_i$$e_i$

Мы знаем, что метод Ньютона примерно удваивает количество точных значащих цифр. Таким образом, мы можем выбрать:

$$e_{i+1} = 2e_i$$

С небольшой манипуляцией мы находим:

$$e_{i+1} = 2e_i$$ $$w_i = {r'_i}^2$$ $$x'_i = \frac{x}{2^{2e - e_{i+1}}}$$ $$d_i = 2^{e_{i+1}} - \frac{w_i' x'_i}{2^{e_{i+1}}}$$ $$r'_{i+1} = 2^{e_i} r'_i - \frac{r'_i d_i}{2^{e_i + 1}}$$

На каждой итерации:

$$\sqrt{x} \approx \frac{r'_i x}{2^{e + e_i}}$$

В качестве примера, давайте попробуем вычислить квадратный корень из . Мы знаем, что ответ . Обратный квадратный корень равен , поэтому мы установим (это масштаб проблемы) и для нашего начального предположения выберем и . (То есть мы выбираем для нашей начальной оценки .)$x = 2^{63}$$2^{31}\sqrt{2}$$\frac{1}{\sqrt{2}} 2^{-31}$$e = 31$$r'_0 = 3$$e_0 = 2$$\frac{3}{4}$$\frac{1}{\sqrt{2}}$

Затем:

$$e_1 = 4, r'_1 = 11$$ $$e_2 = 8, r'_2 = 180$$ $$e_3 = 16, r'_3 = 46338$$ $$e_4 = 32, r'_4 = 3037000481$$

Мы можем решить, когда прекратить итерации, сравнив с ; если я правильно рассчитал, должно быть достаточно хорошим. Мы остановимся здесь и найдем:$e_i$$e$$e_i > 2e$

$$\sqrt{2^{63}} \approx \frac{3037000481 \times 2^{63}}{2^{31+32}} = 3037000481$$

Правильный целочисленный квадратный корень - , поэтому мы довольно близки. Мы можем сделать еще одну итерацию или оптимизированную последнюю итерацию, которая не удваивает . Детали оставлены в качестве упражнения.$3037000499$$e_i$

Чтобы проанализировать сложность этого метода, обратите внимание, что умножение двух разрядных целых чисел требует операций. Тем не менее, мы упорядочили вещи так, чтобы . Таким образом, умножение для вычисления умножает два числа бит, чтобы получить число -бит, а два других умножения умножают два числа -бит, чтобы получить -битный номер.$b$$O(b \log b)$$r'_i < 2^{e_i}$$w_i$$e_i$$e_{i+1}$$e_{i+1}$$2e_{i+1}$

В каждом случае число операций на итерацию равно , и требуется итераций. Окончательное умножение порядка операций. Таким образом, общая сложность состоит из операций, которые субквадратичны по числу битов в . Это помечает все коробки.$O(e_i \log e_i)$$O(\log e)$$O(2e \log 2e)$$O(e \log^2 e)$$x$

Однако этот анализ скрывает важный принцип, который должен иметь в виду каждый, кто работает с большими целыми числами: поскольку умножение является суперлинейным по количеству битов, любые операции умножения должны выполняться только с целыми числами, которые имеют приблизительную величину текущей точности (и Я мог бы добавить, что вы должны попытаться умножить числа вместе, которые имеют схожий порядок). Использование целых чисел больше, чем это пустая трата усилий. Постоянные факторы имеют значение, а для больших целых они имеют большое значение.

В качестве последнего замечания, два умножения имеют вид . Очевидно, что расточительно вычислять все биты только для того, чтобы выбросить из них со сдвигом вправо. Реализация умного метода умножения, который учитывает это, также оставлена ​​в качестве упражнения.$\frac{ab}{2^c}$$ab$$c$