Примеры игрушек для решателей Plotkin-Shmoys-Tardos и Arora-Kale

Я хотел бы понять, как решатель SDP Arora-Kale приближает релаксацию Геманса-Уильямсона за почти линейное время, как решатель Плоткина-Шмойса-Тардоса приближает дробные задачи "упаковки" и "покрытия" за почти линейное время, и как алгоритмы являются примерами абстрактной структуры «обучение у экспертов».

Тезис Кейла имеет отличную презентацию, но мне очень трудно сразу перейти к абстрактной структуре, и я бы предпочел начать с примера простой задачи, для которой совершенно очевидно, что делать, а затем перейти к более общим задачам. , постепенно добавляя «особенности» к алгоритму и его анализу.

Например:

Как Плоткин-Шмойс решает линейную программную релаксацию невзвешенного покрытия вершин? Взвешенное покрытие вершин? Установить обложку? Двухстороннее соответствие?

Какой самый простой пример, в котором алгоритм Арора-Кале делает что-то интересное? Как он вычисляет наибольшее собственное значение лапласиана графа?

(Вычисление наибольшего собственного значения лапласиана эквивалентно задаче решения более слабой версии релаксации SDP Геманса-Уильямсона для Max Cut, в которой вместо того, чтобы требовать, чтобы каждый вектор имел длину один, вы хотите получить сумму квадратов норм быть | V |.)

Лука, с тех пор, как прошел год, ты, наверное, нашел свой ответ. Я отвечаю на некоторые ваши вопросы здесь только для записи. Я рассматриваю некоторые алгоритмы лагранжевой релаксации для упомянутых вами проблем и очерчиваю связь с обучением (в частности, следуя советам экспертов). Я не комментирую здесь алгоритмы SDP.

Обратите внимание, что конкретные алгоритмы, которые вы упоминаете, не работают почти линейно. (Существует алгоритм с почти линейным временем для явно заданных задач упаковки или покрытия. См. Beating Simplex для дробной упаковки и покрытия линейных программ .) Алгоритмы, которые вы имеете в виду, обычно имеют варианты, которые выполняются с почти линейным числом итераций , но каждый итерация обычно требует как минимум линейного времени. Я обсуждаю некоторые из этих алгоритмов ниже.

Некоторые полезные функции

Прежде чем мы начнем, приведем некоторые функции, которые мы будем использовать в контрольных набросках. (Если вас интересуют алгоритмы, но не детали доказательства, вы можете пропустить их.) Для любого вектора определите как . Эта функция является верхней границей : Аналогично, определите как , нижнюю границу .$y$$\mbox{Lmax}(y)$$\ln \sum_i \exp(y_i)$$\max_i y_i$

$$\max_i y_i ~\le~ \mbox{Lmax}(y) ~\le~ \max_i y_i + \ln m.$$ $\mbox{Lmin}(y)$$-\mbox{Lmax}(-y)$$\min_i y_i$

Для удобства в дальнейшем мы будем использовать для обозначения градиента в Lmin. Мы используем для обозначения градиента Lmax.$g(y)$$\nabla \mbox{Lmin}(y)$$G(y)$$\nabla \mbox{Lmax}(y)$

Явно, равно то время как равно .$g_i(y)$$\exp(-y_i)/\sum_{i'} \exp(-y_{i'})$$G_i(y)$$\exp(y_i)/\sum_{i'} \exp(y_{i'})$

Lmin и Lmax являются гладкими в следующем смысле: для любых векторов и , и $d\in[0,\varepsilon]^n$$y\in R^n$

$$\mbox{Lmin}(y+d) ~\ge~ \mbox{Lmin}(y) ~+~ (1-O(\varepsilon))\, d \cdot g(y)$$ $$\mbox{Lmax}(y+d) ~\le~ \mbox{Lmax}(y) ~+~ (1+O(\varepsilon))\, d \cdot G(y).$$

Обратите внимание, что оба градиента имеют 1-норму, равную 1: . (Везде мы используем для обозначения 1-нормы.)$|G(y)| = |g(y)| = 1$$|z|$

Отметим также, что для матрицы градиент функции относительно равен (по правилу цепочки) . Более конкретно, частная производная функции по имеет вид . Аналогично, частная производная от Lmax по равна .$A$$x\mapsto \mbox{Lmin}(Ax)$$x$$(g(Ax))^T A$$x_j$$\sum_i A_{ij} \exp(-A_i x) / \sum_i \exp(-A_i x)$$(Ax)$$x_j$$\sum_i A_{ij} \exp(A_i x)/\sum_i \exp(A_i x)$

Фракционный набор Обложка

Исправить экземпляр Set-Cover. Пусть обозначает матрицу инцидентности элемента / множества. Таким образом, если , иначе 0, и - это степень, в которой дробное покрытие покрывает элемент .$A$$A_{es} = 1$$e\in s$$A_e x$$x$$e$

LP является . Учитывая , алгоритм$\min\{ |x| : A x \ge 1; x \ge 0\}$$\varepsilon\in (0,1)$

---

1. Инициализируйте все . Пусть . $x_s = 0$$N=\log(n)/\varepsilon$

2. Повторяйте до : $\min_e A_e x \ge N$

   2.1. Выбрать максимизацию частную производную Lmin WRT . (Явным образом выберите maximizing .) $s$$(Ax)$$x_s$ s ∑ e ∈ s exp ( - ∑ s ′ ∋ e x s ′ )
   $s$$\sum_{e\in s} \exp(-\sum_{s'\ni e} x_{s'})$

   2.2. Увеличьте на . $x_s$$\varepsilon$

3. Вернуть .$x/\min_{e} A_e x$

---

Алгоритм возвращает приближенное решение за итераций, где - количество элементов, а - оптимальное покрытие дробного множества (тривиально ). (Подобный алгоритм появляется в упомянутой статье Чандра . Покрытие вершины, конечно, особый случай.)$(1+O(\varepsilon))$$O(|x^*|\log(n)/\varepsilon^2)$$n$$x^*$$|x^*|\le n$

( Примечание: обратите внимание, что граница итерации не зависит от количества наборов, а только от числа элементов. Таким образом, алгоритм может использоваться с неявно определенной системой множеств, при условии, что с учетом весов элементов можно эффективно найти набор максимального (или почти максимального) общего веса. Этот вид оракула аналогичен оракулу разделения, необходимому для применения алгоритма эллипсоида к двойной задаче. Для задач упаковки, таких как набор упаковки, требуется оракул, который заданные веса элементов возвращают набор, минимизирующий общий вес. Для таких задач, как поток нескольких товаров, вам, например, может понадобиться найти путь, минимизирующий сумму некоторых заданных весов ребер.)

Вот набросок доказательства гарантии исполнения. В каждой итерации частная производная по выбранным не меньшегде - оптимальное покрытие дробного множества.$s$$1/|x^*|$$x^*$

(Чтобы понять почему, вспомним, что градиент Lmin относительно равен . Если бы мы выбрали случайный набор из распределения , ожидаемое значение частной производной по будет, таким образом, . Поскольку , это по крайней мере . Поскольку , это не менее . Таким образом, должны существовать некоторые дающие частную производную по крайней мере . Поскольку алгоритм выбирает$(Ax)$$x$$(g(Ax))^T A$$s'$$x^*/|x^*|$$x_{s'}$$(g(Ax))^T \,A x^*/|x^*|$$Ax^* \ge 1$$|g(Ax)|/|x^*|$$|g(Ax)|=1$$1/|x^*|$$s$$1/|x^*|$$x_s$в каждой итерации, чтобы максимизировать частную производную, она достигает частичной производной по крайней мере.) 1 / | х ∗ |$1/|x^*|$

Затем размер шага выбирается достаточно маленьким, чтобы ни одна координата увеличивалась более чем на . Таким образом, из-за гладкости Lmin увеличение до увеличивает как минимум ,$\varepsilon$$A x$$\varepsilon$$x_s$$x_s+\varepsilon$$\mbox{Lmin}(Ax)$$(1-O(\varepsilon))\varepsilon/|x^*|$

Таким образом, алгоритм поддерживает инвариант (Обратите внимание, что Lmin равно .)

$$\mbox{Lmin}(Ax) \ge (1-O(\varepsilon)) |x|/|x^*| - \ln n.$$ $(\overline 0)$$\ln n$

По окончании в инварианте термин равен умноженному на левую часть, поэтому в результате вычисления получается, После нормализации в последней строке алгоритма это означает, что,$\ln n$$O(\varepsilon)$$\min_e A_e x \ge (1-O(\varepsilon)) |x|/|x^*|$$|x| \le (1+O(\varepsilon))|x^*|$

В то же время, неравенства, связанные с доказательством инварианта, по существу такие же, как и при доказательстве границы Чернова. (Фактически, этот алгоритм может быть получен путем применения метода условных вероятностей к схеме рандомизированного округления, которая многократно выбирает множества из распределения (с заменой), увеличивая для каждого выбранного множества Эта дерандомизация дает алгоритм: основной инвариант - это просто то, что пессимистическая оценка остается ниже 1. Экспоненциальные штрафы в пессимистической оценке происходят от использования границы Черноффа при анализе схемы округления. Эта основная идея объясняется далее в документе упоминается Чандра .)$x^*/|x^*|$$x_s$$s$

Фракционное взвешенное множество покрытий (и общее фракционное покрытие)

Чтобы справиться с такими проблемами, как взвешенная Set Cover эффективна , мы модифицируем алгоритм использовать неравномерные приращения (идею из - за Garg и KÖNEMANN ).

LP является , где распространяется на элементы, - на наборы, а все переменные не являются -отрицательное. Чтобы представить алгоритм, сначала перепишите задачу как общую проблему покрытия. Пусть для и противном случае. Тогда (с заменой переменных, масштабируя каждое на ), LP будет , который мы можем рассматривать как общее покрытие LP. Вот алгоритм:$\min\{ c\cdot x : (\forall e) \sum_{s\ni e} x_s \ge 1\}$$e$$s$$A_{es} = 1/c_s$$e\in s$$A_{es} = 0$$x_s$$c_s$$\min\{ |x| : A x \ge 1; x \ge 0\}$

---

1. Инициализируйте все . Пусть .$x_s = 0$$N=\log(n)/\varepsilon$

2. Повторяйте, пока все ограничения покрытия не будут удалены:

   2.1. Выбрать максимизацию частную производную Lmin WRT . (Явным образом выберите maximizing .)$s$$(Ax)$$x_s$ s ∑ e ∈ s exp ( - ∑ s ′ ∋ e x s ′ ) / c s
   $s$$\sum_{e\in s} \exp({-\sum_{s'\ni e} x_{s'}})/c_s$

   2.2. Увеличьте на , где выбирается максимально таким образом, чтобы при каждом оставшемся покрывающем ограничении увеличение не более .$x_s$$\delta$$\delta$$e$$A_e \cdot x$$\varepsilon$

   2.3 Удалить все ограничения , охватывающие такое , что .$e$$A_e\cdot x \ge N$

3. Вернуть .$x/\min_e A_e\cdot x$

---

Алгоритм возвращает -приближенное решение в итерациях, где - число ограничений покрытия. (Каждая итерация увеличивает некоторую оставшуюся на ; это может произойти только в раз с ограничением до того, как оно будет удалено.) Доказательство правильности выполняется по существу тем же инвариантом, что и для Set Cover.$(1+O(\varepsilon))$$O(n\log(n)/\varepsilon^2)$$n$$A_e x$$\varepsilon$$N/\varepsilon$

Weighted Vertex Cover - особый случай.

Максимальное дробное соответствие

Для данного графа естественным LP для задачи является .$G=(U,W,E)$$\max\{|x| : \forall v.\, \sum_{e\ni v} x_e \le 1\}$

В матричном представлении это упаковка LP с 0-1 коэффициентами ( если ). Такие проблемы не требуют неравномерных приращений, поэтому простой алгоритм, аналогичный невзвешенному алгоритму Set Cover (но для упаковки), подойдет:$\max\{|x| : Ax \le 1; x \ge 0\}$$A_{ve} = 1$$v\in e$

---

1. Инициализировать все . Пусть .$x_e = 0$$N=\log(n)/\varepsilon$

2. В то время как :$A x < N$

   2.1. Выберите минимизируя частную производную Lmax WRT . (Явно выберите чтобы минимизировать .)$e$$(Ax)$$x_e$ e ∑ v ∈ e exp ( ∑ e ′ ∋ v x e ′ )
   $e$$\sum_{v\in e} \exp(\sum_{e'\ni v} x_{e'})$

   2.2. Увеличьте на . $x_e$$\varepsilon$

3. Вернуть .$x/\max_{v} A_v x$

---

Алгоритм возвращает -приближенное решение за итераций. (Это потому, что каждая итерация увеличивает на и, наконец, перед нормализацией .)$(1-O(\varepsilon))$$O(n\log(n)/\varepsilon^2)$$|x|$$\varepsilon$$|x| = O(N n)$

Просто для удовольствия, вот любопытный альтернативный алгоритм для Perfect Bipartite Matching. Напомним, что . Пусть,$G=(U,W,E)$$n=|U|=|W|$

---

1. Инициализировать все . Пусть . $x_e = 0$$N=4\ln(n)/\varepsilon$

2. Повторите раз:$n\,N$

   2.1. Выберите равномерно в случайном порядке из . 2.2. Выберите , чтобы минимизировало . 2,3. Увеличьте на . $u$$U$w ( u , w ) ∈ E ∑ e ∋ w x e x u w ε
   $w$$(u,w)\in E$$\sum_{e\ni w} x_e$
   $x_{uw}$$\varepsilon$

3. Вернуть .$x/N$

---

Если имеет идеальное соответствие, алгоритм возвращает такой, что , и, с высокой вероятностью, для всех вершин , и для всех вершин , . Если вы заинтересованы в деталях доказательства, пожалуйста, спросите ...$G$$x$$|x|=n$$u\in U$$1-O(\varepsilon) \le \sum_{e\ni u} x_e \le 1+O(\varepsilon)$$w\in W$$\sum_{e\ni w} x_e \le 1+O(\varepsilon)$

Смешанная упаковка и покрытие

Возможно, вы спрашивали о двустороннем сопоставлении, надеясь на пример смешанной проблемы упаковки и покрытия, то есть одной из форм Вот один алгоритм для таких задач. Сначала нормализуйте так, чтобы и .

$$\exists x?~ Px \le p; Cx \ge c; x \ge 0.$$ $p=\overline 1$$c=\overline 1$

Пусть будет количеством ограничений (строки в плюс строки в ).$m$$P$$C$

---

1. Инициализировать все . Пусть .$x_j = 0$$N=2\ln(m)/\varepsilon$

2. Пока :$P x < N$

   2.1. Выберите так, чтобы частная производная от Lmax по была не больше, чем частная производная от Lmin по . (Явно выберите , чтобы$j$$(Px)$$x_j$$(Cx)$$x_j$$j$

   $$\frac{\sum_i P_{ij} \exp(P_i x)}{\sum_{i}\exp(P_i x)} \le \frac{\sum_i C_{ij} \exp(-C_i x)}{\sum_{i}\exp(-C_i x)}.)$$

   2.2. Увеличьте на , где выбирается максимально таким образом, чтобы никакое ограничение или оставшееся ограничение увеличивалось более чем на .$x_j$$\delta$$\delta$$P_i x$$C_i x$$\varepsilon$

   2,3. Удалить все ограничения , охватывающие , такие , что .$i$$C_i x \ge N$

3. Вернуть .$x/\max_i P_i x$

---

Предполагая, что данная проблема выполнима, алгоритм возвращает такой, что и . Количество итераций равно , поскольку каждая итерация увеличивает некоторое ограничение на , и это может произойти для каждого ограничения не более чем в раз.$x$$Px\le 1$$Cx\ge 1-O(\varepsilon)$$O(m\ln(m)/\varepsilon^2)$$\varepsilon$$N$

Доказательство правильности выполняется с помощью инварианта Из инварианта следует В конце левая сторона - , что подтверждает гарантию производительности.

$$\mbox{Lmax}(Px) \le 2\ln(m) + (1+O(\varepsilon)) \mbox{Lmin}(Cx).$$ $$\max Px \le 2\ln(m) + (1+O(\varepsilon)) \min Cx.$$ $\Omega(\log(m)/\varepsilon)$

На шаге 2.1 требуемый должен существовать до тех пор, пока возможна исходная проблема. (Это потому, что для любого возможного и любого , если бы мы выбрали случайный из распределения , ожидаемое значение частной производной Lmax по отношению к будет не более (см. предыдущий эскиз доказательства для Set Cover). Аналогично, ожидаемое значение частной производной Lmin по будет по крайней мере . Таким образом, есть$j$x ∗ x j ′ x ∗ / | Икс $x^*$$x$$j'$$x^*/|x^*|$$(Px)$$x_{j'}$$1/|x^*|$$(Cx)$$x_{j'}$$1/|x^*|$$j$такой, что частная производная Lmax по является не более частной производной Lmin .)$(Px)$$x_{j'}$$(Cx)$

Тогда инвариант сохраняется в каждой итерации, потому что при выборе и и гладкости Lmin и Lmax увеличение до увеличивает Lmax не более чем в раз увеличение Lmin .$x_j$$\delta$$x_j$$x_j+\delta$$(Px)$$1+O(\varepsilon)$$(Cx)$

Обучение (после экспертов / повышения)

Одним из примеров понимания этой связи является адаптивная игра с использованием мультипликативных весов Фрейнда и Шапира. Вот краткое резюме, чтобы дать техническую идею.

Рассмотрим следующую повторную игру. В каждом раунде : $t$

1. Вы выбираете распределение вероятностей на ( так называемых экспертов ). $p^t$$[n]$$n$
2. Зная , противник затем выбирает вектор выигрыша . $p^t$$a^t\in [0,1]^{n}$
3. Вы получаете выплату за раунд. $p^t\cdot a^t$

Игра останавливается после определенного количества раундов. Ваша цель состоит в том, чтобы свести к минимуму ваше сожаление по сравнению с любым отдельным экспертом (т.е. чистой стратегией) . То есть ваша цель - минимизировать .$i$$(\max_i \sum_t a^t_i) - \sum_t p^t\cdot a^t$

Исправьте любой . Пусть вектор обозначает , то есть умноженное на векторную сумму векторов выплат до момента времени . Напомним, что является градиентом Lmax .$\varepsilon>0$$y^t$$\varepsilon \sum_{s \le t} a^s$$\varepsilon$$t$$G(y)$$(y)$

Вот основная стратегия, которую мы будем анализировать: В раунде выберите чтобы быть .$t$$p^t$$G(y^{t-1})$

По проверке это дает вам выигрыш в раунде .$a^t \cdot G(y^{t-1})$$t$

Из-за свойства гладкости , То есть в каждом раунде не может увеличиваться более чем в разы. Так как , это сохраняет инвариант, что - самое большее ваше общее время выплаты , плюс . С другой стороны, ваше сожаление по сравнению с лучшим экспертом - это , то есть$F$

$$\mbox{Lmax}(y^t) \le \mbox{Lmax}(y^{t-1}) + (1+O(\varepsilon)) \varepsilon a^t \cdot G(y^{t-1}).$$ Lmax ( у т ) ε ( 1 + O ( ε ) ) Lmax ( ¯ 0 ) = LN п Lmax ( уt )$\mbox{Lmax}(y^t)$$\varepsilon(1+O(\varepsilon))$$\mbox{Lmax}(\overline 0) = \ln n$$\mbox{Lmax}(y^t)$$\varepsilon(1+O(\varepsilon)$$\ln(n)$$i$$\max_i \sum_t a^t_i$$\varepsilon^{-1} \max_i y^t_i$ ε - 1 Lmax ( y t ), что в свою очередь не более .$\varepsilon^{-1} \mbox{Lmax}(y^t)$

Таким образом, ваше сожаление не может плюс вашего общего выигрыша.$\varepsilon^{-1} \ln(n)$$O(\varepsilon)$

Замечание: Я думаю, что, как указывают Фрейнд и Шапире, алгоритм «повышения» (в теории обучения) также подразумевается в этом анализе. Смотрите их бумаги для более подробной информации.

Минимизация общего выигрыша

Вы можете получить аналогичную стратегию для настройки, в которой цель состоит в том, чтобы минимизировать , а не максимизировать общую отдачу. Ваше сожаление, которое вы все еще хотите минимизировать, это . В этом случае соответствующей стратегией является выбор в качестве градиента . С этой стратегией ваше сожаление снова будет не более плюс умноженное на ваш общий выигрыш.$\sum_t p^t\cdot a^t - \min_i a^t_i$$p^t$$\mbox{Lmin}(y^t)$$\varepsilon^{-1} \ln n$$O(\varepsilon)$

Связь с алгоритмами лагранжиана-релаксации

Чтобы увидеть связь с алгоритмами лагранжевой релаксации, исправьте экземпляр Set-Cover. Рассмотрим последний тип игры (с целью минимизации выигрыша), когда эксперты соответствуют элементам вашей системы множеств. В каждом раунде выберите распределение вероятности в качестве градиента Lmin как указано выше, и пусть противник выберет вектор выигрыша как функцию следующим образом: выберите набор максимизируя , тогда пусть если , и противном случае.$e$$p^t$$(y^t)$$a^t$$p^t$ы т Σ е ∈ s р т е т е = 1 е ∈ с т т е = 0$s^t$$\sum_{e\in s} p^t_e$$a^t_e = 1$$e\in s^t$$a^t_e = 0$

При условии правильного условия остановки (обсуждается ниже), этот процесс дает вам именно тот алгоритм Set-Cover, который обсуждался в начале.

Гарантия работоспособности алгоритма вытекает из оценки сожаления следующим образом. Пусть будет числом раз, когда противник выбирал набор во время игры. Пусть - оптимальное покрытие дробного множества. Пустьбыть количество сыгранных раундов. сожаления подразумевает $X_s$$s$$x^*$$T=|X_s|$

$$\textstyle \sum_t a^t\cdot p^t \le \varepsilon^{-1}\ln(m) + \min_e \sum_t a_e^t.$$

Используя определение , й выигрыш ( й член в сумме слева) равен . Противник выбрал чтобы минимизировать этот выигрыш. Если противник вместо этого выбрал случайным образом из распределенияожидание выплаты было бы (Выше мы используем это для всех и ) Поскольку каждый выигрыш по крайней мере$a^t$$t$$t$$\sum_{e\in s^t} p^t_e$$s^t$$s^t$$x^*/|x^*|$

$$\sum_s \frac{x^*_s}{|x^*|} \sum_{e\in s} p^t_e ~=~ \frac{1}{|x^*|} \sum_e p^t_e \sum_{s\ni e} x^*_s ~\ge~ \frac{1}{|x^*|} \sum_e p^t_e ~=~ \frac{1}{|x^*|}.$$ $\sum_{s\ni e} x^*_s \ge 1$$e$$|p^t| = 1$$1/|x^*|$граница сожаления подразумевает По определению имеем (каждый раунд выбирает один набор) и , что дает Мы остановим процесс, когда , а затем (переставляем термины) То есть нормализация дает покрытие дробного множества размером не более времена оптимальные. $$\frac{T}{|x^*|} \le \varepsilon^{-1}\ln(m) + \min_e \sum_t a_e^t.$$ $X$$|X| = T$$\sum_t a_e^t = \sum_e [e\in s^t] = \sum_{s\ni e} X_s$ $$\frac{|X|}{|x^*|} \le \varepsilon^{-1}\ln(m) +\min_e \sum_{s\ni e} X_s.$$ $\min_e \sum_{s\ni e} X_s = \Omega(\varepsilon^{-2}\ln m)$ $$\frac{|X|}{\min_e \sum_{s\ni e} X_s}~ \le~ (1+O(\varepsilon)|x^*|.$$ $X$$(1+O(\varepsilon))$

Примечание: В некотором смысле, эта интерпретация теории обучения обобщает алгоритмическую интерпретацию. Тем не менее, некоторые алгоритмические методы, необходимые для эффективности (такие как неравномерное приращение и отбрасывание удовлетворенных ограничений покрытия), похоже, не переносятся в настройку теории обучения естественным образом. Аналогично, алгоритмы для смешанной упаковки и покрытия LP (например, этих ), похоже, не имеют естественных аналогов в условиях теории обучения.