Оптимизация версии решения проблемы

Известно, что каждая проблема оптимизации / поиска имеет эквивалентную проблему решения. Например, проблема кратчайшего пути

• версия для оптимизации / поиска: для заданного неориентированного невзвешенного графа $G = (V, E)$ и двух вершин $v,u\in V$ найдите кратчайший путь между $v$ и $u$ .
• версия решения: для неориентированного невзвешенного графа $G = (V, E)$ , двух вершин $v,u\in V$ и неотрицательного целого числа $k$ существует ли в G путь $G$между $u$ и $v$ , длина которого не превосходит $k$ ?

В общем, «Найти $x^*\in X$ st $f(x^*) = \min\{f(x)\mid x\in X\}$ !» становится "Есть ли $x\in X$ st $f(x) \leq k$ ?".

Но верно ли обратное, то есть существует ли эквивалентная проблема оптимизации для каждой проблемы решения? Если нет, то каков пример решения проблемы, которая не имеет эквивалентной проблемы оптимизации?

Как уже говорилось в комментариях, это зависит от определений, как обычно. Моя попытка ответить на это требует довольно много определений, так что это будет еще один пример моей неспособности дать краткие ответы.

---

Определение: задача оптимизации является кортеж ( X , F , Z , ⊙ ) с$(X,F,Z,\odot)$

• X набор соответствующим образом закодированных (строковых)экземпляровиливходов.$X$
• Р является функциейкоторая отображает каждый экземпляр х ∈ X к множеству F ( х ) извозможных решенийпо й .$F$$x\in X$$F(x)$$x$
• Z является целевой функциейкоторая отображает каждую пару ( х , у ) , где х ∈ Х и Y ∈ F ( х ) , чтобы вещественное число Z ( х , у ) называетсязначениемпо у .$Z$$(x, y)$$x \in X$$y\in F(x)$$Z(x, y)$$y$
• ⊙ -направление оптимизации, минимальное или максимальное .$\odot$$\min$$\max$

Определение: оптимальное решение экземпляра х ∈ Х задачи оптимизации Р O является допустимым решением у ∈ F ( х ) , для которых Z ( х , у ) = ⊙ { Z ( х , у ' ) | у ' ∈ F ( х ) } . Значение оптимального решения обозначается через O p t ( x $x\in X$$P_O$$y\in F(x)$$Z(x, y)=\odot\{Z(x, y')\mid y'\in F(x)\}$$Opt(x)$и назвал оптимальным .

Определение: Задача оценки , обозначаемая P E , которая соответствует задаче оптимизации P O, является следующей: для данного случая x ∈ X вычислить O p t ( x ), если $P_E$$P_O$$x\in X$$Opt(x)$$x$ имеет оптимальное решение, и вывести «нет оптимального решения» в противном случае.

Обратите внимание, что это просто запрашивает значение оптимального решения, а не самого решения со всеми его деталями.

Определение. Задача решения , обозначаемая P D, которая соответствует задаче оптимизации P O, имеет следующий вид. Для пары ( x , k ) , где x ∈ X и k ∈ Q , решить, есть ли у x выполнимое решение y такое, что Z ( x , y ) ≤ k, если ⊙ = min и такое, что Z ( x , y $P_D$$P_O$$(x, k)$$x\in X$$k\in\mathbb{Q}$$x$$y$$Z(x, y)\le k$$\odot=\min$≥ k, если ⊙ = макс .$Z(x, y)\ge k$$\odot=\max$

Первое наблюдение состоит в том, что в настоящее время Р О ∈ N P O ⇒ P D ∈ N P . Доказательство не сложно и здесь опущено.$P_O\in \mathrm{NPO} \Rightarrow P_D\in \mathrm{NP}$

Теперь интуитивно P E и P D , соответствующий P O не сложнее , чем P O сам. Чтобы выразить это чувство формально (тем самым определяя, что эквивалентно$P_E$$P_D$$P_O$$P_O$ должен означать), мы будем использовать сокращения.

Напомним, что язык L 1 сводится за полиномиальное время к другому языку L 2, если существует функция f , вычислимая за полиномиальное время, такая, что для всех слов x , x ∈ L 1 ⇔ f ( x ) ∈ L 2 . Этот вид сводимости известен как сводимость по Карпу или многозначность , и если L 1 сводится к L 2 таким образом, мы выражаем это, записывая L 1 ≤ m L $L_1$$L_2$$f$$x$$x\in L_1\Leftrightarrow f(x)\in L_2$$L_1$$L_2$$L_1\le_m L_2$, Это центральное понятие в определении NP-полноты.

К сожалению, сокращения «один к одному» идут между языками, и неясно, как их использовать в контексте проблем оптимизации. Поэтому мы должны рассмотреть другой вид сводимости, сводимость по Тьюрингу . Сначала нам нужно это:

Определение: оракул для задачи P является (гипотетический) подпрограммой , которая может решить экземпляры $P$$P$ в постоянная время.

Определение: задача P 1 сводится по Тьюрингу за полиномиальное время к задаче P 2 , записанной как P 1 ≤ T P 2 , если экземпляры P 1 могут быть решены за полиномиальное время алгоритмом с доступом к оракулу для P 2 .$P_1$$P_2$$P_1\le_T P_2$$P_1$$P_2$

Неформально, как и при ≤ m , соотношение P 1 ≤ T P 2 выражает, что P 1 не сложнее, чем P 2 . Также легко видеть, что если P 2 может быть решена за полиномиальное время, то и P 1 может быть решена . Снова ≤ T является транзитивным отношением. Следующий факт очевиден:$\le_m$$P_1\le_T P_2$$P_1$$P_2$$P_2$$P_1$$\le_T$

Пусть P O ∈ N P O , то Р Д ≤ Т Р Е ≤ T P O .$P_O\in \mathrm{NPO}$$P_D\le_T P_E\le_T P_O$

Потому что , учитывая полное решение, вычисляя его значение и решить , отвечает ли она связанного $k$ , просто.

Определение: если для двух задач P 1 и P 2 выполняются оба отношения P 1 ≤ T P 2 , P 2 ≤ P 1 , пишем P 1 ≡ T P 2 ; наше понятие эквивалентности .$P_1$$P_2$$P_1\le_T P_2$$P_2\le P_1$$P_1\equiv_T P_2$

Теперь мы готовы доказать, что P D ≡ T P E, если соответствующая задача оптимизации имеет вид P O ∈ N P O, а Z целочисленное. Мы должны показать, что P E ≤ T P D имеет место. Мы можем определить ⊙ { Z ( х , Y ) | у ∈ F ( х ) } с бинарным поиском usign в Orcale для P D . Определение N$P_D\equiv_T P_E$$P_O\in \mathrm{NPO}$$Z$$P_E \le_T P_D$$\odot\{Z(x,y)\mid y\in F(x)\}$$P_D$$\mathrm{NPO}$ гарантирует, что | Z(х,у) | ≤ 2 q ( | x | ) для некоторого полиномаq, поэтому число шагов в бинарном поиске является полиномиальным от | х | , $|Z(x, y)|\le 2^{q(|x|)}$$q$$|x|$$\Box$

Для задачи оптимизации P O отношение к P E менее ясно. Во многих конкретных случаях можно прямо показать, что P D ≡ T P E ≡ T P $P_O$$P_E$$P_D\equiv_T P_E \equiv_T P_O$. To prove that this holds generally within the framework given here we need an additional assumption.

First we need to extend $\le_m$ from pairs of languages to pairs of the corresponding decision problems. Then it is easy to see that $\le_T$ is more general than $\le_m$.

Let $P$ and $P'$ be decision problems; then $P\le_m P' \Rightarrow P\le_T P'$. This holds because a many-to-one reduction can be interpreted as making use of an oracle in a very restricted way: The oracle is called once, at the very end, and its result is also returned as the overall result. $\Box$

Now we are ready for the finale:

Let $P_O\in \mathrm{NPO}$ and suppose $Z$ is integer-valued and that $P_D$ is NP-complete, then

$$P_D\equiv_T P_E \equiv_T P_O.$$ With the previous observations it remains to show $P_O\le_T P_E$. To do this we will exhibit a problem $P_O'\in \mathrm{NPO}$ such that $P_O\le_T P_E'$. Then we have $$P_O\le_T P_E' \le_T P_D'\le_T P_D\le_T P_E.$$ The second and third $\le_T$ hold because of the equivalence of the decision and evaluation version proofed earlier. The third $\le_T$ follows from the NP-completness of $P_D$ and the two facts mentioned before, namely $P_O\in \mathrm{NPO} \Rightarrow P_D\in \mathrm{NP}$ and $P\le_m P_O' \Rightarrow P\le_T P_O'$.

Now the details: Assume that the feasible solutions of $P_O$ are encoded using an alphabet $\Sigma$ equipped with a total order. Let $w_0, w_1, \ldots$ be the words from $\Sigma^*$ listed in order of nondecreasing length and lexicographic order within the blocks of words with common length. (Thus $w_0$ is the empty word.) For all $y\in\Sigma^*$ let $\sigma(y)$ denote the unique integer $i$ such that $y=w_i$. Both $\sigma$ and $\sigma^{-1}$ can be computed in polynomial time. Let $q$ be a polynomial such that for all $x\in X$ and all $y\in F(x)$ we have $\sigma(y)<2^{q(|x|)}$.

Now the problem $P_O'$ is identical to $P_O$ except for a modified objective function $Z'$. For $x\in X$ and $y\in F(x)$ we take $Z'(x, y)=2^{q(|x|)}\cdot Z(x,y)+\sigma(y)$. $Z'$ is computable in polynomial time thus $P_O'\in \mathrm{NPO}$.

To show that $P_O\le_T P_E'$ we observe that $x$ is feasible for $P_O$ if and only if it is feasible for $P_E'$. We can assume that this is the case, since the opposite case is trivial to handle.

The substituion of $Z'$ for $Z$ is monotonic in the sense that for all $y_1, y_2\in F(x)$, if $Z(x, y_1)<Z(x, y_2)$ then $Z'(x, y_1)<Z'(x, y_2)$. This implies that every optimal solution for $x$ in $P_O'$ is an optimal solution of $x$ in $P_O$. Thus our task reduces to the computation of an optimal solution $y$ of $x$ in $P_O'$.

Querying the oracle for $P_E'$ we can get the value of $Z'(x,y)=2^{q(|x|)}\cdot Z(x,y)+\sigma(y)$. Forming the remainder of this number modulo $2^{q(|x|)}$ yields $\sigma(y)$ from which $y$ can be computed in polynomial time.

As the comments say, the answer depends on the exact definitions. Let me interpret the question in a very basic (even naïve) way.

Let $S$ be some relation, that is $S \subseteq \{ (a,b) \mid a,b \in \Sigma^*\}$.

Now we define a search problem for $S$:

Given $a$, find a $b$ such that $(a,b) \in S$.

and a decision problem for $S$:

Given $(a,b)$ answer whether or not $(a,b) \in S$.

_{(for instance, in the example given in the question, $S$ will hold all the pairs $(u,v,k)$ such that there exists a path between $u$ and $v$ which is shorter than $k$.)}

Note that these two problems are well defined. For this definition, we can ask whether the two problems are "equivalent" for any $S$. In "equivalent" I mean that if one of them is computable (i.e., there exists an algorithm that solves it) than the other one is computable as well. In general, they are not.

Claim 1: Decision implies Search.

Proof: Let $D_S$ be the algorithm that solves the decision problem of $S$. Given an input $a$, We can run $D_S(a,x)$ for any $x\in \Sigma^*$, one after the other, or in parallel. If there exists $b$ such that $(a,b)\in S$, we will eventually find it. If not, the algorithm might not stop$^\dagger$.

Claim 2: Search does not imply Decision.

The reason is that the search algorithm might return a different $b$ than the one we need. That is, for every $a$ there is some $b$ that is very easy to find, but other $b'$ that is not. For instance, let $L$ be some undecidable language, then define

$$S = \{ (x,0) \mid x\in \Sigma^*\} \cup \{ (x,1) \mid x \in L\}.$$ For every $x$ the search algorithm can return $0$. But no decision algorithm can answer correctly whether $(x,1) \in S$, for all the pairs $(x,1)$. If it could, it would have decided an undecidable problem, which is impossible.

$^\dagger$ This depends on $S$. If, for instance, $S$ is bounded, there might exists an algorithm that does stop.