Основанное на энтропии опровержение байесовской обратной стрелки времени Шализи?


31

В этой статье талантливый исследователь Косма Шализи утверждает, что для полного принятия субъективного байесовского взгляда необходимо также принять нефизический результат, согласно которому стрелка времени (заданная потоком энтропии) действительно должна идти назад . В основном это попытка спорить с максимальной энтропией / полностью субъективной байесовской точкой зрения, выдвинутой и популяризированной ET Jaynes .

В LessWrong многие участники очень интересуются байесовской теорией вероятностей, а также субъективным байесовским подходом в качестве основы для формальных теорий принятия решений и трамплина к сильному А.И. Элиэзер Юдковский является обычным вкладчиком, и я недавно читал этот пост, когда я наткнулся на этот комментарий (несколько других хороших комментариев появятся вскоре после него на странице исходного поста).

Кто-нибудь может прокомментировать обоснованность опровержения Юдковского Шализи. Вкратце, аргумент Юдковского заключается в том, что физический механизм, с помощью которого рассуждающий агент обновляет свои убеждения, требует работы и, следовательно, имеет термодинамические издержки, которые Шалици подметает под ковром. В другом комментарии Юдковский защищает это, говоря:

«Если вы берете точку зрения логически всезнающего совершенного наблюдателя вне системы, понятие« энтропия »в значительной степени бессмысленно, как и« вероятность »- вам никогда не придется использовать статистическую термодинамику для моделирования чего-либо, вы просто используете детерминированный точный волновое уравнение. "

Могут ли это прокомментировать какие-либо вероятностные или статистические механики? Меня не волнуют аргументы авторитета относительно статуса Шализи или Юдковского, но мне бы очень хотелось увидеть краткое изложение того, как три пункта Юдковского содержат критику статьи Шализи.

Чтобы соответствовать рекомендациям FAQ и сделать этот вопрос конкретным ответом, обратите внимание, что я прошу конкретный, подробный ответ, который принимает трехэтапный аргумент Юдковского и указывает, где в статье Shalizi эти три шага опровергают предположения и / или выводы, или, с другой стороны, указывает, где в статье Шализи приводятся аргументы Юдковского.

Я часто слышал, что статья Шализи рекламируется как железное доказательство того, что полномасштабное субъективное байесианство не может быть защищено ... но после прочтения статьи Шализи несколько раз это выглядело для меня как игрушечный аргумент, который никогда не применим наблюдателю, взаимодействующему с тем, что наблюдается (т. е. со всей реальной физикой). Но Шализи - великий исследователь, поэтому я бы приветствовал второе мнение, потому что весьма вероятно, что я не понимаю важные части этих дебатов.


10
Шализи любит быть провокационным ... мне кажется, что его аргумент по сути совпадает с аргументом креациониста о том, что эволюция нарушает второй закон термодинамики, потому что "более поздние" организмы более сложны, организованно, чем "более ранние" организмы, но второй закон гласит, что энтропия не уменьшается. Тем не менее, 1) во втором законе нет ничего, что препятствовало бы локальному снижению энтропии, и 2) аргумент подразумевает, что никто ничего не может узнать о чем-либо когда-либо (почему обучение через байесовское обновление должно отличаться от любого другого процесса обучения?)
jbowman

4
Я не возмутился бы спором между Шализи и Юдковским; ни один не авторитет. (Shalizi пишет хорошо, хотя.) Во всяком случае, вы не думаете, физика. Это лучшее место для этого вопроса?
Эмре

1
Вы читали много постов Юдковского? Я думаю, что он тоже неплохо пишет. Обе эти фигуры имеют противоречивые позиции, но Шализи, похоже, действительно склонен к субъективному байесовскому поведению. Причина, по которой я здесь спросил, заключается в том, что она тесно связана с более чисто теоретической статьей статистики, которую Шализи написал с Эндрю Гельманом, которая также полна философских проблем (хотя Гельман - абсолютный профессионал, когда дело доходит до практики). ( Ссылка )
Ely

1
X

X

Ответы:


16

Короче говоря: 1: 0 для Юдковского.

Косма Шализи рассматривает распределение вероятностей, подвергнутое некоторым измерениям. Он обновляет вероятности соответственно (здесь не важно, является ли это байенсовым выводом или чем-то еще).

Неудивительно, что энтропия распределения вероятностей уменьшается.

Однако он делает неправильный вывод, что это говорит о стреле времени:

Эти предположения обращают вспять стрелу времени, т. Е. Делают энтропию нерастущей.

Как было отмечено в комментариях, для термодинамики важна энтропия замкнутой системы . То есть, согласно второму закону термодинамики , энтропия замкнутой системы не может уменьшаться. Это ничего не говорит об энтропии подсистемы (или открытой системы); иначе вы не могли бы использовать свой холодильник.

И как только мы измеряем что-то (т.е. взаимодействуем и собираем информацию), это больше не закрытая система. Либо мы не можем использовать второй закон, либо - нам нужно рассмотреть замкнутую систему, состоящую из измеренной системы и наблюдателя (то есть нас самих).

В частности, когда мы измеряем точное состояние частицы (еще до того, как узнали ее распределение), мы действительно снижаем ее энтропию. Однако для хранения информации нам нужно увеличить нашу энтропию как минимум на ту же величину (обычно это огромные накладные расходы).

Итак, Элиэзер Юдковский делает хорошую мысль:

1) Измерения используют работу (или, по крайней мере, стирание при подготовке к следующему измерению использует работу).

На самом деле, замечание о работе здесь не самое главное. Хотя термодинамика касается связи (или торговли) энтропии с энергией, вы можете обойтись (то есть нам не нужно прибегать к принципу Ландауэра , к которому Шализи относится скептически ). Чтобы собрать новую информацию, вам нужно стереть предыдущую информацию.

Чтобы соответствовать классической механике (и квантовой тоже), вы не можете создать функцию, произвольно отображающую что-либо на все нули (без побочных эффектов). Вы можете сделать функцию, отображающую вашу память на ноль , но в то же время сбрасывая информацию куда-то, что эффективно увеличивает энтропию среды.

(Вышеприведенное исходит из гамильтоновой динамики - т.е. сохранения фазового пространства в классическом случае и унитарности эволюции в квантовом случае.)

PS: трюк на сегодня - «уменьшение энтропии»:

  • H=1
  • H=0

1
Является ли эта верная версия верной: «Бумага Шализи - это всего лишь специализированное подтверждение демона Максвелла»?
Артем Казнатчеев

@ArtemKaznatcheev В основном да. Но больше по вкусу закрытые против открытых систем. Но для тех, кто не любит читать, есть первая строка;).
Петр Мигдаль

Мне нравится этот ответ, но мне трудно смириться с обсуждением в другой ветке. Посмотрите на эту ссылку и найдите тему / ответ, начатый пользователем "pragmatist". Если вы добавите параграф или два, посвященные этому аргументу (или объясните, почему этот аргумент действителен / не согласен с вашим ответом выше), я буду рад принять.
12

@EMS Ну, "Не могли бы вы прокомментировать обсуждение?" не совсем подходит для SE (и вообще, есть много аргументов). Более того, на самом деле я оправдал критику статьи Шализи. В том числе и критика критики критики статьи требует слишком много. Не могли бы вы быть более конкретными, то есть точными точками? Однако: «Когда мы занимаемся статистической механикой, нас обычно не интересует энтропия системы плюс наблюдатель» - ложь (открытая или закрытая системы), «эволюция системы не будет унитарной» - правда, но даже классически вы не можете уменьшить общую энтропию.
Петр Мигдаль

@ EMS Принцип стирания глубже, чем стат. механ. - как я уже сказал, если он не удовлетворяет, он опровергает как квантовую, так и классическую механику. И еще раз: вы не можете применять правила для закрытых систем к открытым системам - поэтому большинство аргументов прагматика либо не являются научными (то есть, во что верить или нет), либо игнорируют физику.
Петр Мигдаль

4

Недостаток Шализи является очень основным и вытекает из предположения I, что временная эволюция обратима (обратима).

Эволюция ИНДИВИДУАЛЬНЫХ состояний во времени обратима. Временная эволюция распределения по ВСЕМ ФАЗОВЫМ ПРОСТРАНСТВУ, безусловно, необратима, если только система не находится в равновесии. В статье рассматривается эволюция во времени распределения по всему фазовому пространству, а не отдельных состояний, поэтому предположение об обратимости совершенно нефизично. В случае равновесия результаты тривиальны.

Стрела времени проистекает из того факта, что эволюция распределений во времени необратима (причина, по которой градиенты уменьшаются и газы распространяются). Известно, что необратимость возникает из «терминов столкновения»

Если принять это во внимание, его аргумент развалится. Информационная энтропия = термодинамическая энтропия, пока что. : D


1
Поскольку на фундаментальном уровне QM является детерминированным - уравнение Шредингера точно описывает, как система развивается во времени, и в этом нет никакой неопределенности - и оно является линейным , может показаться, что обратимость в эволюции отдельных состояний немедленно подразумевает обратимость в любое распространение таких состояний. Поэтому я хотел бы видеть ваше математическое обоснование вашего утверждения об обратном, поскольку оно более четко покажет, что вы сейчас только неявно предполагаете в отношении динамических уравнений.
whuber

Для равновесного распределения все тривиально, временная эволюция обратима. Для диссипативной системы, где объем фазового пространства не является постоянным, многие состояния исходного распределения могут быть сопоставлены с одним состоянием конечного распределения или наоборот (больше не обратимо). Это очевидно в случае, например, свободного расширения идеального газа. Движение каждой отдельной частицы явно обратимо, но само расширение - нет, поскольку оно включает изменение объема фазового пространства. Газ никогда не «расширяется». Если вы все еще не счастливы, я могу придумать для вас математику.
Итан

Поскольку вы обвиняете Шализи в том, что он ошибается, было бы неплохо предложить какую-то объективную математическую поддержку. Но будьте осторожны, чтобы не отклоняться слишком далеко от центра этого сайта, который посвящен анализу данных, а не физике! Тем не менее, пример свободного расширения не кажется мне диспозитивным, потому что в (гипотетически) компактной вселенной, похоже, нет такой вещи: газ расширяется в другое место.
whuber

Иногда я забываю, на каком стеке я нахожусь. Может быть, я что-то начну там. Но для газа изменение энтропии равно TdS = dU + pdV, но dU равно нулю, если мы адиабатичны, поэтому dS = pdV / T. По закону идеального газа dS = nRdV / V, поэтому переход от v1 к v2 изменяет энтропию на ln (v2 / v1). В основном все спонтанные макроскопические процессы (т.е. воспроизводимые) необратимы. Но, возможно, получить это из базовых принципов не тривиально (Больцман провел всю свою жизнь на этом)
Итан

3

Связанный документ явно предполагает, что

Оператор эволюции T обратим.

Но если вы используете QM обычным способом, то это предположение не выполняется. Предположим, у вас есть состояние X1, которое может развиться в X2 или X3 с равной вероятностью. Вы бы сказали, что состояние X1 развивается во взвешенное множество [1/2 X2 + 1/2 X3]. Шализи доказывает, что этот набор обладает не большей энтропией, чем X1.

Но мы, как наблюдатели или как часть этой системы, можем взглянуть только на одну из ветвей: X2 или X3. Выбор того, какие из этих двух ветвей мы увидим, добавляет новый бит энтропии, и этот выбор не является обратимым. Отсюда и увеличение энтропии со временем. То, что сделал Шализи, - это использовать математику, в которой вся энтропия возникает в квантовом ветвлении, а затем забыть, что квантовое ветвление происходит.


2
В статье (как второй закон) рассматриваются замкнутые системы. Квантовая механика полностью обратима на замкнутой системе (т. Е. Все операторы унитарны). Единственная необратимая операция в квантовой механике - это измерение; если вы измеряете замкнутую систему, то она больше не является замкнутой с точки зрения термодинамики. Если ваш наблюдатель находится внутри системы и измеряет подсистему, тогда наблюдатель + подсистема эволюционируют единым образом вместе, и, таким образом, операция обратима (этот трюк неофициально называют «Церковью большего Гильбертова пространства»). Таким образом, ваш аргумент от "QM" неверен.
Артем Казнатчеев

1
Это только в том случае, если вы верите копенгагенской интерпретации (или другим, которые отделяют «измерение» от унитарных процессов). Многие Миры считают, что измерение - это просто обычные унитарные законы и, следовательно, совершенно обратимо; это просто артефакт начального состояния вселенной, что маловероятно, что он изменится (вероятно, я не очень хорошо это объясняю, я не физик). Во всяком случае, я не уверен, что этот ответ должен быть отвергнут из-за этой критики.
12

1
@ EMS Неважно, какую интерпретацию вы используете, QM замкнутой системы обратим. Но в более широком контексте первоначального вопроса, детали того, кто отвечал неправильно относительно QM, не имеют значения: Шализи уже рассматривает этот вопрос в разделе II.A в более общем смысле; даже правильная форма этого ответа не выходит за рамки недостатков, на которые указывает сам Шализи.
Артем Казнатчеев

1
Как уже упоминалось в другой ветке, обсуждающей это, этот ответ, похоже, является оборотной стороной другого ответа: если вы настаиваете на требованиях закрытой системы, то вы должны найти свой источник энтропии (то есть «закрытая система» Шализи должна включать человек с долей энтропии для того, чтобы «случиться, чтобы пройти одну (неизвестную) ветвь двух ветвей». То есть, похоже, что этот ответ также говорит о том, что статья Шализи - просто повторение демона Максвелла. Опять же, я могу быть неправильное понимание этого из-за отсутствия формальной подготовки физики
'20
Используя наш сайт, вы подтверждаете, что прочитали и поняли нашу Политику в отношении файлов cookie и Политику конфиденциальности.
Licensed under cc by-sa 3.0 with attribution required.