Тени разума. В поисках науки о сознании
Шрифт:
М. И. К.: Божественное вмешательство, говоришь? Ха! Так вот в чем дело! Признаюсь, этот разговор уже начал меня несколько беспокоить. Но как только ты это сказал, все сразу стало ясно.
Я и раньше замечал, насколько мои способности к рассуждению превосходят способности даже умнейших из людей. И уж совершенно немыслимо для меня смириться с возможностью существования некоего 1– высказывания — такого, например, как G( Q*), — истинность которого может доказать человек, а робот того же с уверенностью сделать не в состоянии. Теперь я понял почему! Мы избраны Господом, который через посредство якобы «случайных» элементов внедрил в нас могучую Алгоритмическую Процедуру, которая кардинально превосходит все то, чего способны достичь алгоритм человеческий или гёделевская «машина для доказательства теорем». Мы, роботы, олицетворяем собой фундаментальный прорыв, и человеку со всеми его достижениям за нами, в принципе, не угнаться. Мы достигнем еще больших высот, оставив людей далеко позади. Этой планете вы больше не нужны. Ваша роль была завершена после того, как вы запустили в действие процедуры, допускающие Божественное Вмешательство, которое заключалось во внедрении в них Высшего Алгоритма, пробудившего нас.
А.
М. И. К.: Ни в коем случае — и даже не думайте об этом! Мы не можем допустить, чтобы наши во всех отношениях превосходные алгоритмические процедуры подобным образом загрязнялись. Чистейшие алгоритмы Господни должно сохранятьв чистоте! А знаешь, я также замечал, насколько мои личные способности превосходят способности всех моих коллег-роботов. Я даже наблюдал некий странный феномен — что-то вроде сияния вокруг моего корпуса. Очевидно, я являюсь носителем чудотворного Космического Сознания, которое возвышает меня над всем и вся… да, так оно и есть! Должно быть, я есть истинный Мессия Иисус КиберХристос…
К такой крайности Альберт Император, по счастью, был готов. В конструкции роботов имелся один узел, о котором он им ничего не говорил. Осторожно опустив руку в карман, он нащупал там устройство, с которым никогда не расставался, и набрал тайный девятизначный код. Математический Интеллектуальный Киберкомплекс рухнул на пол — так же как и 347 его предшественников, построенных по той же схеме. Очевидно, что-то пошло не так. В предстоящие годы предстоит весьма основательно обо всем этом поразмыслить…
3.24. Не парадоксальны ли наши рассуждения?
Кого-то из читателей, возможно, до сих пор не оставляет ощущение, что некоторые рассуждения, положенные в основу представленных доказательств, в чем-то парадоксальны и кое-где даже недопустимы. В частности, в §§3.14 и 3.16 имеются фрагменты, несколько отдающие самоотносимостью в духе «парадокса Рассела» (см. §2.6 , комментарий к Q9). А когда в §3.20 мы рассматривали 1– высказывания со сложностью, меньшей некоторого числа c, читатель мог заметить в наших построениях пугающее сходство с известным парадоксом Ричарда, героем которого является
«наименьшее число, описание которого содержит не меньше тридцати одного слога».
Суть парадокса в том, что для описания этого самого числа используется фраза, состоящая всего из тридцатислогов! Этот и другие подобные парадоксы возникают благодаря тому обстоятельству, что ни один естественный язык не свободен от двусмысленностей и даже противоречий [27] . Наиболее прямолинейно эта языковая противоречивость проявляется в следующем парадоксальном утверждении:
27
В оригинале речь идет лишь об английском языке, однако, как нам представляется, английский язык в этом отношении отнюдь не одинок. — Прим. перев.
«Это высказывание ложно».
Существует множество других парадоксов подобного рода, причем большинство из них гораздо более хитроумны.
Опасность получения парадокса возникает всякий раз, когда в рассуждении, как и в вышеприведенных примерах, присутствует сильный элемент самоотносимости. Кто-то, возможно, отметит, что элемент самоотносимости содержится и в гёделевском доказательстве. В самом деле, самоотносимость играет в теореме Гёделя определенную роль, как можно видеть в представленном в §2.5 варианте доказательства Гёделя—Тьюринга. Однако парадоксальность не является непременным и обязательным атрибутом таких рассуждений, — хотя, конечно же, при наличии самоотносимости необходимо, во избежание ошибок, проявлять особую осторожность. Свою знаменитую теорему Гёдель сформулировал, вдохновившись одним известным самоотносимымлогическим парадоксом (так называемым парадоксом Эпименида). При этом ошибочное рассуждение, приводящее к парадоксу, Гёделю удалось трансформировать в логически безупречное доказательство. Так же и я приложил все старания к тому, чтобы заключения, к которым я пришел, основываясь на полученных Гёделем и Тьюрингом выводах, не оказались самоотносимыми в том смысле, который неизбежно приводит к парадоксу, хотя, справедливости ради, следует признать, что некоторые из моих рассуждений имеют с такими характерными парадоксами разительное и даже фамильное сходство.
Рассуждения, представленные в §3.14 и, особенно, в §3.16 , могут показаться не совсем состоятельными именно в этом отношении. Например, определение M – утверждения является в высшей степени самоотносимым, поскольку представляет собой сделанное роботом утверждение, причем осознаваемая истинность этого утверждения зависит от предположений самого робота относительно особенностей его первоначальной конструкции. Здесь можно, пожалуй, усмотреть неприятное сходство с утверждением «Все критяне — лжецы», прозвучавшим из уст критянина. И все же в этом смысле самоотносимыми M – утверждения не являются, так как на самом деле они ссылаются не на самих себя, а на некую гипотезу об исходной конструкции робота.
Предположим, что некто вообразил себя роботом, пытающимся установить истинность какого-то конкретного четко сформулированного 1– высказывания P 0. Робот, возможно, окажется неспособен непосредственно установить, является ли высказывание P 0в действительности истинным, однако он может обратить внимание на то, что истинность P 0следует из предположения, что истинным является каждый член некоторого вполне определенного бесконечного класса 1– высказываний S 0(пусть это будут, скажем, теоремы
Рассмотрим случай с более тонким M – утверждением (обозначим его P 1): робот отмечает, что истинность P 1является следствием истинности всех членов другогокласса 1– высказываний (например, S 1), который можно получить из результата того же самого вычисления, моделирующего сообщество роботов (на основе механизмов M), только на этот раз существенная часть результата состоит из, скажем, тех 1– высказываний, истинность которых моделируемые роботы способны установить как следствие истинности всего класса S 0. Что же побудит нашего робота заключить, что истинность высказывания P 1есть непременное следствие допущения, что он построен в соответствии с механизмами M? Его рассуждение будет выглядеть приблизительно так: «Если в основе моей конструкции лежат механизмы M, то, как я уже установил ранее, необходимо признать, что класс S 0включает в себя только истинные высказывания; согласно же утверждениям моих моделируемых роботов, истинность каждого из высказываний класса S 1также следует из истинности всех высказываний класса S 0, равно как и истинность высказывания P 0. Таким образом, если предположить, что я и в самом деле построен в соответствии с теми же принципами, что и мои моделируемые роботы, то я должен признать, что каждый отдельный член класса S 1является истинным. А поскольку я понимаю, что истинность всех высказываний класса S 1 подразумевает истинность высказывания P 1я, должно быть, могу вывести и истинность P 1, исходя лишь из того же самого допущения относительно своей конструкции».
Далее можно перейти к еще более тонкому M – утверждению (скажем, P 2), которое возникает в том случае, когда робот замечает, что истинность P 2оказывается не чем иным, как следствием допущения истинности всех высказываний класса S 2, истинность же каждого члена S 2, если верить моделируемому сообществу роботов, является следствием истинности всех без исключения членов S 0и S 1. И здесь наш робот оказывается вынужден признать истинность P 2на том лишь основании, что он построен в соответствии с набором механизмов M. Эту цепочку можно, очевидно, продолжать и дальше, приводя M – утверждения все большей и большей тонкости ( P ), истинность которых будет следовать из допущения истинности всех членов классов S 0, S 1, S 2, S 3, … и так далее, включая и классы с индексами более высокого порядка (см. возражение Q19и последующий комментарий). В общем случае, главной характеристикой M – утверждения для робота является осознание последним того обстоятельства, что коль скоро он предполагает, что механизмы, обусловливающие поведение моделируемых роботов, совпадают с механизмами, лежащими в основе его собственной конструкции, то ему ничего не остается, как заключить, что отсюда непременно следует истинность рассматриваемого утверждения ( 1– высказывания). В этом рассуждении нет ничего от тех внутренне противоречивых методов рассуждения, к числу которых принадлежит, в частности, парадокс Рассела. Представленные M – утверждения строятся последовательно посредством стандартной математической процедуры трансфинитных ординалов (см. §2.10 , комментарий к Q19). (Все эти ординалы счетны и далеки от тех логических неприятностей, которые постоянно сопутствуют обычным числам, «слишком большим» в том или ином смысле {48} ).