Вопросы с тегом «it.information-theory»

Вопросы в теории информации

2
Результаты канального кодирования с использованием колмогоровской сложности
Обычно энтропия Шеннона используется для доказательства результатов канального кодирования. Даже для результатов разделения канала источника используется энтропия Шеннона. Учитывая эквивалентность между Шенноном (глобальным) и колмогоровским (локальным) понятиями информации, проводилось ли исследование по использованию колмогоровской сложности для этих результатов (или, по крайней мере, для замены части исходного кода в результатах разделения …
1
Различение между
Для заданного квантового состояния выбрано равномерно случайным образом из набора из N смешанных состояний ρ 1 . , , ρ N , какова максимальная средняя вероятность правильного определения A ?ρAρA\rho_ANNNρ1, , , ρNρ1...ρN\rho_1 ... \rho_NAAA Эту проблему можно превратить в проблему различимости двух состояний, если рассмотреть проблему отличия от ρ …
1
Простая (?) Смешная комбинаторная задача!
Пусть мы зафиксируем 0<E<10<E<100 . для любого nnn и для любого вектора c¯∈[0,1]nc¯∈[0,1]n\bar{c} \in [0,1]^n такого, что ∑i∈[n]ci≥E×n∑i∈[n]ci≥E×n\sum_{i\in [n]} c_i \geq E \times n Ac¯:=|{S⊆[n]:∑i∈S ci≥E×t}|≥(E×nt)Ac¯:=|{S⊆[n]:∑i∈S ci≥E×t}|≥(E×nt)A_{\bar{c}} :=|\{ S \subseteq [n] : \sum_{i \in S}~ c_i \geq E \times t \}| \geq \binom{ E \times n}{ t } Я не …
4
Связь между вычислительной сложностью и информацией
Я работаю в вычислительной нейробиологической лаборатории, которая количественно оценивает взаимную информацию между парами или группами нейронов. Недавно босс его сместил акцент на измерение «сложности нейронной динамики». Продолжая эту линию исследований, некоторые люди в моей группе, по-видимому, приравнивают «сложный» к «имеет высокую энтропию». Кто-нибудь может подсказать мне, какова связь между вычислительной …
1
Алгоритмическая теория информации все еще развивается?
В настоящее время я ищу предмет для диссертации и столкнулся с областью алгоритмической теории информации. Поле кажется мне очень интересным, но, кажется, все поле было сделано за много лет. Итак, мой вопрос: поле «живое» или оно в значительной степени закрыто? Есть ли у него открытые вопросы? Спасибо
2
Обратное к неравенству Фано?
Неравенство Фано может быть изложено во многих формах, и одна особенно полезная из-за (с незначительной модификацией) Одеда Регева : Пусть XXX - случайная величина, и пусть Y= г( Х)Y=g(X)Y = g(X) где г( ⋅ )g(⋅)g(\cdot) - случайный процесс. Предположим, что существует процедура еff которой Y= г( х )y=g(x)y = g(x) …
2
Нумерация подмножеств
Исправить . Для любого достаточно большого мы хотели бы пометить все подмножества размера точно натуральными числами из . Нам бы хотелось, чтобы эта маркировка удовлетворяла следующему свойству: есть множество целых чисел, stk≥5k≥5k\ge5nnn{1..n}{1..n}\{1..n\}n/kn/kn/k{1...T}{1...T}\{1...T\}SSS Если подмножеств размера не пересекаются (т.е. объединение этих множеств образуют все множество ), то сумма их меток в …
1
Определить минимальное количество взвешивания монет
В статье « О двух проблемах теории информации» Эрдёс и Реньи дают нижние оценки минимального количества взвешиваний, которое необходимо сделать, чтобы определить количество фальшивых монет в наборе из монет.NNn Более формально: Поддельные монеты имеют меньший вес, чем правильные монеты; веса и как правой, так и фальшивой монеты известны. Дается шкала, …
4
Обзоры по сетевому кодированию
Я хочу начать изучать сетевое кодирование: http://en.wikipedia.org/wiki/Network_coding Знаете ли вы какой-либо хороший опрос (например, из опросов и учебных пособий IEEE) по вышеуказанным предметам. Я нашел несколько университетских курсов в Google, но я хотел бы получить рекомендации от людей, которые уже читают и знают хороший источник. Спасибо василис
1
Тэта-функция Ловаша и регулярные графы (в частности, нечетные циклы) - связи со спектральной теорией
Сообщение связано с: /mathpro/59631/lovasz-theta-function-and-independence-number-of-product-of-simple-odd-cycles Насколько далеко Lovasz связан с пропускной способностью регулярных графов с нулевой ошибкой? Есть ли примеры, когда известно, что оценка Ловаша не равна емкости регулярного графа с нулевой ошибкой? (Ответил ниже Александр Бондаренко.) В частности, известно ли строгое неравенство для нечетных циклов сторон, больших или равных 777 …
3
Существует ли обобщение теории информации на полиномиально узнаваемую информацию?
Прошу прощения, это немного "мягкий" вопрос. Теория информации не имеет понятия вычислительной сложности. Например, экземпляр SAT или экземпляр SAT плюс бит, указывающий на выполнимость, несут одинаковое количество информации. Есть ли способ формализовать понятие «полиномиально узнаваемый»? Такая структура могла бы определить, например, понятие расхождения полиномиального KL между случайной величиной X относительно …
2
Угадай низкую величину энтропии при нескольких попытках
Предположим, Алиса имеет распределение μμ\muнад конечной (но, возможно, очень большой) областью, такой, что энтропия (Шеннона) ограничена сверху произвольно малой постоянной . Алиса получает значение из , а затем просит Боба (который знает ) угадать .μμ\muεε\varepsilonИксxxμμ\muμμ\muИксxx Какова вероятность успеха для Боба? Если ему разрешено только одно предположение, то эту вероятность можно …
1
Энтропия шумового распределения
Скажем, у нас есть функция е:ZN2→ Rf:Z2n→Rf:\mathbb{Z}_2^n \to \mathbb{R} такой, что ∀ x ∈ZN2е( x ) ∈ {12N,22N, ... ,2N2N} ,∀x∈Z2nf(x)∈{12n,22n,…,2n2n},\forall x\in \mathbb{Z}_2^n \quad f(x) \in \left\{\frac{1}{2^n}, \frac{2}{2^n}, \ldots, \frac{2^n}{2^n} \right\}, а также еff является распределением, т. е. Σx ∈ZN2е( х ) = 1∑x∈Z2nf(x)=1\sum_{x\in \mathbb{Z}_2^n} f(x) = 1, Энтропия Шеннона …
2
События с высокой вероятностью без координат с низкой вероятностью
Пусть - случайная величина, принимающая значения в (для некоторого большого алфавита ), которая имеет очень высокую энтропию - скажем,для сколь угодно малой постоянной . Пусть - событие в опоре такое что , где \ varepsilon - сколь угодно малая константа.XXXΣnΣn\Sigma^nΣΣ\SigmaH(X)≥(n−δ)⋅log|Σ|H(X)≥(n−δ)⋅log⁡|Σ|H(X) \ge (n- \delta)\cdot\log|\Sigma|δδ\deltaE⊆Supp(X)E⊆Supp(X)E \subseteq \rm{Supp}(X)XXXPr[X∈E]≥1−εPr[X∈E]≥1−ε\Pr[X \in E] \ge 1 - …
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.