Тени разума. В поисках науки о сознании

Пенроуз Роджер

3.2. Способен ли необоснованный алгоритм познаваемым образом моделировать математическое понимание?

Согласно выводу G, для того чтобы математическое понимание могло оказаться результатом выполнения некоего алгоритма, этот алгоритм должен быть необоснованным или непознаваемым, если же он сам по себе обоснован и познаваем, то о его обоснованности должно быть принципиально невозможно узнать наверняка (такой алгоритм мы называем непознаваемо обоснованным); кроме того, возможно, что различные математики «работают» на различных типах таких алгоритмов. Под «алгоритмом» здесь понимается просто какая-нибудь вычислительная процедура (см. §1.5 ), т.е. любой набор операций, который можно, в принципе, смоделировать на универсальном компьютере с неограниченным объемом памяти. (Как нам известно из обсуждения возражения Q8, §2.6 , «неограниченность» объема памяти в данном идеализированном случае на результаты рассуждения никак не влияет.) Такое понятие алгоритма включает в себя нисходящие процедуры, восходящие самообучающиеся системы, а также различные их сочетания. Сюда, например, входят любые процедуры, которые можно реализовать с помощью искусственных нейронных сетей (см. §1.5 ). Этому определению отвечают и иные типы

восходящих механизмов — например, так называемые «генетические алгоритмы», повышающие свою эффективность с помощью некоей встроенной процедуры, аналогичной дарвиновской эволюции (см. §3.11 ).

О специфике приложения аргументации, представляемой в настоящем разделе (равно как и доводов, выдвинутых в главе 2 ), к восходящим процедурам я еще буду говорить в §§3.9-3.22 (краткое изложение их можно найти в воображаемом диалоге, §3.23 ). Пока же, для большей ясности изложения, будем рассуждать, исходя из допущения, что в процессе участвует один-единственный тип алгоритмических процедур, а именно — нисходящие. Такую алгоритмическую процедуру можно относить как к отдельному математику, так и к математическому сообществу в целом. В комментариях к возражениям Q11и Q12, §2.10 , рассматривалось предположение о том, что разным людям могут быть свойственны различные обоснованные и известные алгоритмы, причем мы пришли к заключению, что такая возможность не влияет на результаты рассуждения сколько-нибудь значительным образом. Возможно также, что разные люди постигают истину посредством различных необоснованныхи непознаваемыхалгоритмов; к этому вопросу мы вернемся несколько позже (см. §3.7 ). А пока, повторюсь, будем считать, что в основе математического понимания лежит одна-единственная алгоритмическая процедура. Можно, кроме того, ограничить рассматриваемую область той частью математического понимания, которая отвечает за доказательство ₁– высказываний (т.е. определений тех операций машины Тьюринга, которые не завершаются; см. комментарий к возражению Q10). В дальнейшем вполне достаточно интерпретировать сочетание «математическое понимание» как раз в таком, ограниченном смысле (см. формулировку G**).

В зависимости от познаваемости предположительно

лежащей в основе математического понимания алгоритмической процедуры F(будь то обоснованной или нет), следует четко выделять три совершенно различных случая. Процедура Fможет быть:

I сознательно познаваемой, причем познаваем также и тот факт, что именно эта алгоритмическая процедура ответственна за математическое понимание;

II сознательно познаваемой, однако тот факт, что математическое понимание основывается именно на этой алгоритмической процедуре, остается как неосознаваемым, так и непознаваемым;

III неосознаваемой и непознаваемой.

Рассмотрим сначала полностью сознательный случай I. Поскольку и сам алгоритм, и его роль являются познаваемыми, мы вполне можем счесть, что мы о них ужезнаем. В самом деле, ничто не мешает нам вообразить, что все наши рассуждения имеют место уже после того, как мы получили в наше распоряжение соответствующее знание — ведь слово «познаваемый» как раз и подразумевает, что такое время, по крайней мере, в принципе, когда-нибудь да наступит. Итак, алгоритм Fнам известен, при этом известна и его основополагающая роль в математическом понимании. Как мы уже видели ( §2.9 ), такой алгоритм эффективно эквивалентен формальной системе F. Иными словами, получается, что математическое понимание — или хотя бы понимание математики каким-то отдельным математиком — эквивалентно выводимости в рамках некоторой формальной системы F. Если мы хотим сохранить хоть какую-то надежду удовлетворить выводу G, к которому нас столь неожиданно привели изложенные в предыдущей главе соображения, то придется предположить, что система Fявляется необоснованной. Однако, как это ни странно, необоснованность в данном случае ситуацию ничуть не меняет, поскольку, в соответствии с I, известная формальная система Fявляется действительно известной, то есть любой математик знаети, как следствие, верит, что именно эта система лежит в основе его (или ее) математического понимания. А такая вера автоматически влечет за собой веру (пусть и ошибочную) в обоснованность системы F. (Согласитесь, крайне неразумно выглядит точка зрения, в соответствии с которой математик позволяет себе не верить в самые фундаментальные положения собственной заведомо неопровержимой системы взглядов.) Независимо от того, является ли система Fдействительно обоснованной, верав ее обоснованность уже содержит в себе веру в то, что утверждение G( F) (или, как вариант, ( F), см. §2.8 ) истинно. Однако, поскольку теперь мы полагаем (исходя из веры в справедливость теоремы Гёделя), что истинность утверждения G( F) в рамках системы Fнедоказуема, это противоречит предположению о том, что система Fявляется основой всякого(существенного для рассматриваемого случая) математического понимания. (Это соображение одинаково справедливо как для отдельных математиков, так и для всего математического сообщества в целом; его можно применять индивидуально к любому из всевозможных алгоритмов, предположительно составляющих основу мыслительных процессов того или иного математика. Более того, согласно предварительной договоренности, для нас на данный момент важна применимость этого соображения лишь в той области математического понимания, которая имеет отношение к доказательству ₁– высказываний.) Итак, невозможно знать наверняка, что некий гипотетический известный необоснованный алгоритм F, предположительно

лежащий в основе математического понимания, и в самом деле выполняет эту роль. Следовательно, случай Iисключается, независимо от того, является система Fобоснованной или нет. Если система Fсама по себе познаваема, то следует рассмотреть возможность II, суть которой заключается в том, что система Fвсе же может составлять основу математического понимания, однако узнать об этой ее роли мы не в состоянии. Остается в силе и возможность III: сама система Fявляется как неосознаваемой, так и непознаваемой.

На данный момент мы достигли следующего результата: случай I(по крайней мере, в контексте полностью нисходящих алгоритмов) как сколько-нибудь серьезную возможность рассматривать нельзя; тот факт, что система Fможет в действительности оказаться и необоснованной, как выяснилось, сути проблемы ничуть не меняет. Решающим фактором здесь является невозможность точно установить, является та или иная гипотетическая система F(независимо от ее обоснованности) основой для формирования математических убеждений или же нет. Дело не в непознаваемости самого алгоритма, но в непознаваемости того факта, что процесс понимания действительнопроисходит в соответствии с данным алгоритмом.

3.3. Способен ли познаваемый алгоритм непознаваемым образом моделировать математическое понимание?

Перейдем к случаю IIи попытаемся серьезно рассмотреть возможность того, что математическое понимание на деле эквивалентно некоторому сознательно познаваемому алгоритму либо формальной системе, однако эквивалентность эта принципиально непознаваема. Иными словами, даже при условии познаваемости той или иной гипотетической формальной системы Fмы никоим образом не можем убедиться в том, что именно эта конкретная система действительно лежит в основе нашего математического понимания. Правдоподобно ли такое предположение?

Если упомянутая гипотетическая формальная система Fне является ужеизвестной, то в этом случае нам, как и ранее, следует полагать, что она может, по крайней мере, в принципе, когда-нибудь таковой стать. Вообразим, что этот светлый день наконец наступил, и допустим, что в нашем распоряжении имеется точное и подробное описание этой самой системы. Предполагается, что формальная система F, будучи, возможно, крайне замысловатой, все же достаточно проста для того, чтобы мы оказались способны, по крайней мере, в принципе, постичь ее на вполне сознательном уровне. При этом нам не позволено испытывать уверенностьв том, что система Fдействительно целиком и полностью охватывает всю совокупность наших твердых математических убеждений и интуитивных озарений (по крайней мере в том, что касается ₁– высказываний). Это (вообще-то вполне логичное) предположение оказывается на деле в высшей степени неправдоподобным, в причинах чего мы и попытаемся разобраться. Более того, несколько позднее я покажу, что даже будь оно истинным, это не принесло бы никакой радости тем ИИ-энтузиастам, которые видят смысл жизни в создании робота-математика. Мы еще поговорим об этом в конце данного раздела и — более подробно — в §§3.15 и 3.29.

Дабы подчеркнуть тот факт, что существование подобной системы Fи в самом деле следует полагать логическивозможным, вспомним о «машине для доказательства теорем», возможности создания которой, согласно Гёделю, логически исключить нельзя (см. цитату в §3.1 ). В сущности, такую «машину», как я поясню ниже, как раз и можно представить в виде некоторой алгоритмической процедуры F, соответствующей вышеприведенным пунктам IIили III. Как отмечает Гёдель, его гипотетическая машина для доказательства теорем может быть «эмпирически реализована», что соответствует требованию «сознательной познаваемости» процедуры Fв случае II; если же подобная реализация оказывается невозможной, то мы, по сути, имеем дело со случаем III.

На основании своей знаменитой теоремы Гёдель утверждал, что невозможно доказать«эквивалентность» процедуры F(или, что то же самое, формальной системы F; см. §2.9 ) «математической интуиции» (см. ту же цитату). В определении случая II(и, как следствие, III) я сформулировал это фундаментальное ограничение, налагаемое на F, несколько по-иному: «Тот факт, что математическое понимание основывается именно на этой алгоритмической процедуре, остается как неосознаваемым, так и непознаваемым».

Это ограничение (необходимость в котором следует из обоснованного в §3.2 исключения случая I) со всей очевидностью приводит к невозможности показать, что процедура F эквивалентна математической интуиции, поскольку посредством подобной демонстрации мы могли бы однозначно убедиться в том, что процедура Fдействительно выполняет ту роль, о самом факте выполнения которой мы предположительно не в состоянии ничего знать. И наоборот, если бы эта самая роль процедуры F(роль фундаментального алгоритма, в соответствии с которым осуществляется постижение математических истин) допускала осознанное познание (в том смысле, что мы могли бы в полной мере постичь, как именно процедура Fвыполняет эту свою роль), то нам пришлось бы признать и обоснованность F. Ибо если мы не допускаем, что процедура Fцеликом и полностью обоснованна, то это означает, что мы отвергаем какие-то ее следствия. А ее следствиями являются как раз те математические положения (или хотя бы только ₁– высказывания), которые мы полагаем-таки истинными. Таким образом знание роли процедуры F равнозначно наличию доказательства F, хотя такое «доказательство» и нельзя считать формальным доказательством в рамках некоторой заранее заданной формальной системы.