Ожидаемые значения колмогоровской сложности в случайной выборке

Колмогоровская сложность строки не вычислима. Тем не менее, в случайном подмножестве размера$M$ двоичных строк длины $n$сколько ожидается, что сложность будет меньше целого числа $n_{0}$ меньше, чем $n$ (как функция $M$, $n$ а также $n_{0}$)?

Сложность по Колмогорову определяется только с точностью до некоторой аддитивной константы, поэтому точного ответа дать невозможно. Граница, которую я здесь опишу, еще слабее.

Конечно, ожидаемое число может быть легко вычислено, когда мы узнаем, сколько $2^n$ строки имеют сложность меньше, чем $n_0$Итак, позвольте мне ответить на это. Обычно это первое утверждение о колмогоровской сложности, что это число не более$2^{n_0}-1$- поскольку есть только эти много строк меньшей длины. С другой стороны, если ваша программа говорит «о длине$n$возьми $x$й номер ", тогда вы получите $2^{n_0-K(n)-C}$ строки сложности меньше $n_0$, где $K(n)$ безфиксная версия колмогоровской сложности $n$ (так максимум $\log n+\log^* n + O(1)$). Более подробно, строка сначала содержит описание машины Тьюринга, которая приняла ввод$px$где p - описание программы без префиксов, которая выводит $n$выводит $x$номер длины $n$, который $O(1)$ биты, а затем за этим следует $px$,

Возможно, можно улучшить эти границы, но я сомневаюсь, что вы могли бы получить точный ответ.

Точный ответ может быть дан. Количество строк длины$n$ с (простой) сложностью $n_0$ является $2^{n_0 - K(n_0|n)}$с точностью до постоянного фактора. Следовательно, любой процесс, который случайным образом выбирает подмножество, будет иметь с разумной вероятностью$2^{-K(n_0|n) + O(1)}$ доля строк сложности меньше $n_0$, Для того, чтобы показать наше наше утверждение, достаточно показать , что число строк со сложностью равных с$k$ также дается $2^{k - K(k|n)}$, Мы можем показать необходимый результат, определив суммирование этого значения за$k$ от 1 до $n_0$, Чтобы показать это, мы используем результат аддитивности для простой сложности (из-за Б. Бауенса и А. Шена. Теорема аддитивности для простой сложности Колмогорова . Теория вычислительных систем, 52 (2): 297-302, февраль 2013 г.),

$$C(a,b) = K(a|C(a,b)) + C(b|a,C(a,b)) + O(1).$$ Вот $K(\cdot)$обозначает без префикса колмогоровскую сложность. Выбор$a = n$мы наблюдаем, что для каждого $n$-битная строка $b$ сложности $k$ у нас есть $$k = C(b) = C(n,b) + O(1) = K(n|k) + C(b|n,k) + O(1).$$ Следовательно, для каждого такого $b$ у нас есть $C(b|n,k) = k - K(n|k)+O(1)$, Позволять$k' = k - K(n|k)$, Теперь можно наблюдать, что их максимум$O(2^{k'})$ такие строки $b$и каждый из лексикографически первых $2^{k'}$ строки длины $n$ удовлетворять $C(b|n,k) \le k' + O(1)$, таким образом$\Omega(2^{k'})$ из них удовлетворяют $C(b|n,k) = k' + O(1)$,