Распространенные ложные убеждения в теоретической информатике

РЕДАКТИРОВАТЬ НА 10/12/08:

Я постараюсь изменить вопрос, чтобы он мог заинтересовать больше людей поделиться своим мнением. Нам нужен ваш вклад!

Этот пост вдохновлен тем, что в МО: Примеры распространенных ложных убеждений в математике . Большие списки иногда генерируют огромное количество ответов, качества которых трудно контролировать, но после успеха соответствующего поста в МО я убежден, что было бы полезно перечислить несколько распространенных ложных убеждений в TCS.

Тем не менее, поскольку сайт предназначен для ответов на вопросы исследовательского уровня, таких примеров, как $\mathsf{NP}$ обозначающих неполиномиальное время, не должно быть в списке. Между тем, нам нужны примеры, которые могут быть не сложными, но, не вдаваясь в детали, они также выглядят разумными. Мы хотим, чтобы примеры были обучающими, и обычно появляются при первом изучении предмета.

Каковы некоторые (нетривиальные) примеры распространенных ложных убеждений в теоретической информатике, которые появляются у людей, которые учатся в этой области?

Чтобы быть точным, мы хотим, чтобы примеры отличались от удивительных результатов и противоречивых результатов в TCS; результаты такого рода заставляют людей поверить, но они ИСТИННЫ. Здесь мы просим удивительных примеров, что люди могут подумать, что это правда с первого взгляда, но после более глубокого размышления обнаруживается ошибка внутри.

В качестве примера правильных ответов в списке, этот приходит из области алгоритмов и теории графов:

Для $n$ -node графа $G$ , A $k$ -Станок сепаратор $S$ представляет собой подмножество ребер размера $k$ , где узлы $G \setminus S$ может быть разбиение на двух несмежных частей, каждая состоит из не более $3n/4$ узлов , У нас есть следующая «лемма»:

Дерево имеет 1-реберный разделитель.

Правильно?

Это одно из общих для вычислительной геометрии, но повсеместное применение: алгоритмы для реального ОЗУ могут быть перенесены в целочисленное ОЗУ (для целочисленных ограничений задачи) без потери эффективности. Каноническим примером является утверждение «Гауссово исключение выполняется за время . Фактически, неосторожные порядки исключения могут давать целые числа с экспоненциально большим количеством битов .$O(n^3)$

Еще хуже, но, к сожалению, все еще распространено: алгоритмы для реальной оперативной памяти с функцией пола могут быть перенесены в целочисленную оперативную память без потери эффективности. Фактически, пол real-RAM + может решить любую проблему в PSPACE или в #P за полиномиальное количество шагов .

Я только что разрушил еще один миф, которому способствует ответ @ XXYYXX на этот пост :

• Проблема X является трудной, если есть полиномиальное сокращение времени (или пространства журналов) от всех проблем N P до X.$\mathsf{NP}$$\mathsf{NP}$
• Предположим гипотезу экспоненциального времени, 3-SAT не имеет субэкспоненциального алгоритма времени. Кроме того , 3-SAT в .$\mathsf{NP}$
• Таким образом, нет трудных задач X имеет субэкспоненциальные алгоритмы времени. В противном случае алгоритм субэкспоненциального времени для X + сокращение полиномиального времени = алгоритм субэкспоненциального времени для 3-SAT.$\mathsf{NP}$

Но у нас есть субэкспоненциальные алгоритмы времени для некоторых NP-сложных задач.

Ложное убеждение, которое было популяризировано в этом году, и о котором много раз говорят, когда пытаются объяснить всю проблему , поскольку P объясняется как эффективный:$P \neq NP$$P$

«Если , то мы можем эффективно решить огромное количество проблем. Если нет, мы не можем»$P=NP$

Если может быть решена в O ( п г о о г о л р л е х ) , то Р = Н Р . Я не думаю, что кто-то мог бы подумать о запуске этого алгоритма.$3SAT$$O(n^{googolplex})$$P=NP$

Если , у нас все еще может быть алгоритм для T S P, который работает в n log ( log n ) , который меньше, чем n 5, для n ≤ 2 32 . Большинство людей были бы более чем счастливы, что смогли бы быстро решить проблему T S P для 4 миллиардов городов.$P \neq NP$$TSP$$n^{\log(\log n)}$$n^{5}$$n\leq2^{32}$$TSP$

Это действительно ложное убеждение в математике, но часто встречается в контексте TCS: если случайные величины и Y независимы, то при условии Z они остаются независимыми. (ложь , даже если Z не зависит от обоих X и Y ) .$X$$Y$$Z$$Z$$X$$Y$

Распределенные вычисления = распределенные высокопроизводительные вычисления (кластеры, сетки, облака, seti @ home, ...).

Распределенные алгоритмы = алгоритмы для этих систем.

Спойлер: Если это не похоже на «ложное убеждение», я предлагаю вам взглянуть на такие конференции, как PODC и DISC, и посмотреть, какую работу люди действительно выполняют, изучая теоретические аспекты распределенных вычислений.

Типичная проблема заключается в следующем: у нас есть цикл с узлами; узлы помечены уникальные идентификаторы из множества { 1 , 2 , . , , , poly ( n ) } ; узлы являются детерминированными и синхронно обмениваются сообщениями друг с другом. Сколько синхронных раундов связи (в зависимости от n ) необходимо, чтобы найти максимальное независимое множество? Сколько раундов необходимо, чтобы найти независимый набор с по крайней мере n / 1000 узлов? [Ответ на оба эти вопроса точно Θ ( log $n$$\{1,2,...,\text{poly}(n)\}$$n$$n/1000$ , открытый в 1986–2008 гг.]$\Theta(\log^* n)$

То есть люди часто изучают проблемы, которые являются тривиальными с точки зрения централизованных алгоритмов и имеют очень мало общего с любыми видами суперкомпьютеров или высокопроизводительных вычислений. Дело, конечно, не в ускорении централизованных вычислений за счет использования большего количества процессоров или чего-то подобного.

Цель состоит в том, чтобы построить теорию сложности путем классификации фундаментальных задач графа в соответствии с их вычислительной сложностью (например, сколько требуется синхронных циклов; сколько битов передается). Такие проблемы, как независимые наборы в циклах, могут показаться бессмысленными, но они играют роль, подобную 3-SAT в централизованных вычислениях: очень полезная отправная точка в сокращениях. Для конкретных реальных приложений имеет смысл взглянуть на такие устройства, как маршрутизаторы и коммутаторы в сетях связи, а не на компьютеры в сетях и кластерах.

Эта ложная вера не совсем безобидна. На самом деле, это довольно затрудняет продажу работ, связанных с теорией распределенных алгоритмов, широкой аудитории TCS. Я получил веселые отчеты судей от конференций TCS ...

Элементарный, но распространенный, когда мы впервые имеем дело с асимптотическими обозначениями. Рассмотрим следующее «доказательство» рекуррентного соотношения и T ( 1 ) = 1 :$T(n) = 2T(n/2) + O(n \log n)$$T(1) = 1$

Докажем по индукции. Для базового случая это верно для . Предположим, что соотношение выполняется для всех чисел, меньших, чем n ,$n=1$$n$

$\begin{align} T(n) &= 2 \cdot T(n/2) + O(n \log n) \\ &= 2 \cdot O(n/2 \log n/2) + O(n \log n) \\ &= O(n \log n/2) + O(n \log n) \\ &= O(n \log n) \\ \end{align}$

КЭД (это?)

До недавнего времени я считал , что каждый мульти-лента машина Тьюринга , которая работает во времени Т ( п ) можно моделировать с помощью двух ленточных рассеянной Тьюринга machinne M O во времени O ( T ( п ) войти Т ( п ) ) в следующем смысл:$M$$T(n)$$M_o$$O(T(n)\log T(n))$

• движение голов зависит только от длины ввода$M_o$
• для всех входов одинаковой длины останавливается в одно и то же время (что составляет Θ ( T ( n ) log T ( n ) ) ).$M_o$$\Theta(T(n)\log T(n))$

(см. этот пост Rjlipton, например)

Хорошо, вторая линия не имеет места в общем случае , если . Нам нужна полностью конструируемая во времени функция порядка Θ ( T ( n ) log T ( n ) ) (см. Этот вопрос для определения (полностью) конструируемых во времени функций) или нам нужно разрешить M o работать в течение бесконечного времени (мы позволяем M o работать после того, как он достигнет состояния принятия в$EXP-TIME\neq NEXP-TIME$$\Theta(T(n)\log T(n))$$M_o$$M_o$ времени). Проблема в том, что для общего времени : T : N → N мы не можем «измерить» Θ ( T ( n ) log T ( n ) ) шагов за время O ( T ( n ) log T ( n ) ), если только E X P - T I M $O(T(n)\log T(n))$$T:\mathbb{N}\rightarrow\mathbb{N}$$\Theta(T(n)\log T(n))$$O(T(n)\log T(n))$ .$EXP-TIME=NEXP-TIME$

Доказательство этого утверждения очень похоже на доказательство в ответе Q1 здесь , поэтому мы приведем только ключевые идеи.

Возьмем произвольную задачу , L ⊆ { 0 , 1 } ∗ . Тогда существует k ∈ N , st L может быть решена с помощью NDTM M за 2 n k шагов. Для простоты можно предположить, что на каждом шаге M переходит в самое большее два разных состояния. Далее определим функцию f ( n ) = { ( 8 n + $L\in NEXP-TIME$$L\subseteq\{0,1\}^*$$k\in\mathbb{N}$$L$$M$$2^{n^k}$$M$ Можно доказать, чтоfявляется конструируемой во времени.

Теперь предположим, что некоторая забывающая машина Тьюринга работает за время . Тогда g вполне конструируема по времени.$g(n)=\Theta(f(n)\log f(n))$$g$

Теперь следующий алгоритм решает :$L$

• на входе пусть n будет числом с двоичным представлением x 00 … 0 ( | x | k - 1 ноль). Отсюда следует, что x = ( first  ⌊ k $x$$n$$x00\ldots 0$$|x|^{k-1}$.$x=\left(\textrm{first }\lfloor\sqrt[k]{\lfloor\log n\rfloor+1}\rfloor\textrm{ bits of }bin(n)\right)$
• вычислить за время g ( n ) . Если г ( п ) достаточно велико, то х ∈ L , то х ∉ л . (это работает только для достаточно большого п . Насколько большой зависит от г. )$g(n)$$g(n)$$g(n)$$x\in L$$x\not\in L$$n$$g$

Этот алгоритм работает в экспоненциальное время и решает . Так как L ∈ N Е Х Р - Т Я М Е произвольно, Е Х Р - Т Я М Е = Н Е Х Р - Т Я М Е .$L$$L\in NEXP-TIME$$EXP-TIME=NEXP-TIME$

Вот мои два цента:

Класс сложности , рандомизированное логарифмическое пространство , определяется как аналог R P , то есть проблемы решения, которые могут быть решены с помощью недетерминированной логарифмической машины M , где$\mathsf{RL}$$\mathsf{RP}$$M$

• для положительного , например, принимает с вероятностью по крайней мере 1 / 2 ;$M$$1/2$
• для отрицательного случая отклоняет с вероятностью 1 .$M$$1$

Кроме того, машина всегда останавливается.

Это определение правильно? (Нет)

$f$$g$$1^n$$f(n)$$g(n)$$f(n+1)=o(g(n))$

$NTIME(f(n))\subsetneq NTIME(g(n))$

$NTIME(g(n)) - NTIME(f(n))\neq\emptyset$$f(n)\leq g(n)$$NTIME(f(n))\subsetneq NTIME(g(n))$$f,g$$f(n+1)=o(g(n))$$f(n)\leq g(n)$

$NTIME(f(n))\subseteq NTIME(g(n))$$f,g$$f(n+1)=o(g(n))$

$L_1\in NTIME(f(n))$$L_1\in NTIME(g(n))$$L\in NTIME((n+1)^2)$$L_1\in NTIME(f(n))-NTIME(g(n))$

$\mathsf{NP}$$\mathsf{UP}$$\mathsf{NP} \subseteq \mathsf{RP}^{\mathsf{UP}}$$\mathsf{NP} \subseteq \mathsf{R} \cdot \mathsf{UP}$$\mathsf{NP}=\mathsf{UP}$$\mathsf{NP} \subseteq \mathsf{RP}^{\mathsf{PromiseUP}}$

$\mathsf{UP}$$L$$x \in L$$\mathsf{US}$$\mathsf{US}$$\mathsf{UP}$$\mathsf{coNP} \subseteq \mathsf{US}$

$\mu$$X$$\{X=\mu\}$