Молох (сборник)
Шрифт:
Тайна китайской комнаты
Человек и машина [31]
1
«Человек-машина» — это работа французского философа-материалиста Ламетри, написанная в середине XVIII века. Не подлежит сомнению, что как сторонники, так и противники подобной крайней точки зрения на человеческую природу нашлись бы и сегодня. Другими словами, выражаясь более современно, спор был бы разрешен только тогда, когда мы смогли бы создать машину, равнозначную человеку. Однако что означает «равнозначная» человеку? Наше сходство с другими живыми тварями в физическом плане не вызывает сомнения: человек — это живородящее млекопитающее, обладающее органами, которые в очень небольшой степени отличаются от органов и общей физиологии других млекопитающих; отличает же нас от них разум, то есть мозг.
31
Czіowiek i maszyna, 1993.
2
Как легко может догадаться Читатель, этими немного туманными словами я приближаюсь к вполне современному вопросу, который поставил почти полвека назад английский математик Алан Тьюринг: возможно ли сконструировать такой «конечный автомат» (компьютеры являются такими автоматами как одна из ветвей информационного дерева, выросшего из зерна кибернетики), который не удалось бы в разговоре отличить от человека?
3
Правда, некую разновидность «инстинкта самосохранения» можно было бы в компьютерах реализовать, однако подобные меры не приблизят нас к разрешению проблемы. Дуглас Хофштадтер в своей толстой, забавной и интересной книге « Metamagical Themes» описывает ситуацию, когда он должен был отличить человека от машины, при этом в конце оказалось, что он разговаривал с несколькими студентами, отвечающими на его расспросы ТАКИМ ОБРАЗОМ, чтобы сбить его с толку. Когда он уже решил, что разговаривает с компьютером, правда была раскрыта. Что из этого следует? В наиболее примитивной форме дело представляется так, как я описал в «Сумме технологии» более тридцати лет назад. В книге говорилось, что можно осуществлять очередные и вместе с тем более перспективные конструкторские работы (сегодня я бы сказал «программирование»), меняя «разоблаченные» компьютеры на более совершенные с точки зрения имитации, и, может быть, дошли бы до такой модели, которую в разговорах отличить от человека было бы невозможно.
4
Между прочим, даже для повторения рассказанного найдутся уловки. Именно машины, сортирующие (например) научные статьи, запрограммированы таким образом, чтобы различать тексты в соответствии со «словами-ключами». Если частота появления таких слов, как «плазма крови», «гемофилия» или «клеточная оболочка», перешагнет определенный порог, значит, текст, вероятнее всего, относится к области медицины или (шире) биологии. Если в нем появляются «кварки» или «нуклиды» — понятно, куда его отнести. Однако поступая этим первоначально очень примитивным и «ничего не понимающим» способом, можно научить машину пересказывать так, чтобы повторение представленного ей текста было «скелетным» — грамматически, лексикографически и стилистически очень близким к рассказанному, но чтобы оно не совпадало дословно с исходным. То есть можно сделать машину удачным «обманщиком», выдающим себя за живого участника дискуссии, и на этом этапе появляется следующая проблема.
5
Мы не должны заниматься исключительно загадочным собеседником: следует интересоваться и тем, КАКОЙ ЧЕЛОВЕК тестирует машины. Ибо горький пьяница и тупица не будут квалифицированными экспертами наравне с человеком, имеющим диплом о высшем образовании, или писателем, или каким-нибудь необычным гением.
6
Впрочем, задача, поставленная Тьюрингом, сильно изменилась вследствие того, что именно сегодня о разнообразных возможностях компьютера мы знаем больше, чем о том, каким образом функционирует наш мозг. По моему мнению, основывающемуся не столько на чтении работ из области нейрофизиологии, сколько на собственном интроспекционном опыте, мозг состоит из большого количества подсистем, соединенных между собою для совместной работы таким образом, чтобы обеспечивать оптимальное получение результатов на основе различной информации, а также отражать необычайно долгий исторический (эволюционный) путь, который прошел мозг за тысячи поколений животных, впоследствии — гоминидов, а на финише — нас. Определенную зависимость сознания (боюсь этого термина) от состояния мозга стареющий человек испытывает в большей степени, чем молодой, находящийся в хорошем психическом состоянии. У такого старика, как я, иногда случается, что забывается имя хорошо известного ему ученого, например Пригожина или Планка. Усилие, прилагаемое для воспоминания (чего-либо), почти невозможно описать. Впрочем, часто оно оказывается напрасным, но видимая бесплодная работа «сознания» тем не менее приводит в движение некоторые механизмы из раздела « information retrieval [32] », так как почти всегда, раньше или позже, иногда через несколько десятков секунд, иногда на следующий день, искомый термин (здесь: имя) «всплывает» из непамяти. Как он был найден — не имею понятия, и пока никто не может мне этого объяснить. В любом случае здесь мы видим одну сторону владения профессиональной информацией, имеющейся в памяти. С другой стороны, человек, занятый напряженной умственной работой (или склеротик), много времени тратит на поиск очков, газеты, письма, так как откладывание, прятанье, оставление «где-то» выходит ЗА пределы запоминаемых действий, которые сознание ДОЛЖНО вложить хотя бы в извилины «кратковременной памяти». И эти неосознанные и беспамятные действия нередко бывают «осмысленными» и соответствуют обстоятельствам, то есть речь не идет о хранении носков в холодильнике или мороженого в ящике стола. Бывает это — как мы говорим — «неосмысленно», подобно поведению эпилептика, склонного к так называемому « petit mal», что значит моментальное временное «отключение» сознания, причем оно МОЖЕТ БЫТЬ присутствующими наблюдателями обнаружено либо нет, ибо иногда «пробел сознания» заполняется автоматически продолжаемым без перерыва действием. Таким образом, вместо приближения к расшифровке «сущности сознания», чтобы (кроме всего прочего) подойти к вопросу его имитации, мы встречаем новые препятствия. Выявление функций частей мозга благодаря рассечению corpus callosum, большой спайки, соединяющей двумястами миллионами нейронных волокон оба полушария мозга, а также вызванное этой операцией определенное «разделение» разума на два практически независимых «разума» эту проблему в последние годы удивительно усложнило. Неизвестно (опять), почему мы имеем мозг двудольным, является ли это следствием возникшей за многие миллионы
32
информационный поиск (англ.).
7
Возможно, что крутой тропинкой вывода я привел проблему к еще большей запутанности. Мне кажется, что тест Тьюринга, настолько сильно зависящий от развития и возможностей hardwareи software, с каждым разом становится все менее убедительным определителем Человека и Машины. При этом возникает вопрос, наверное, больше интересующий философов, чем экспертов-информатиков: на кой черт нам нужна машина, так эффективно имитирующая человека, своим речевымповедением неотличимая от человека? Очевидно ведь, что эволюция компьютеров вместе с эволюцией программ от нашего разума не только и не просто ОТДАЛЯЕТСЯ, но одновременно вступает, причем во все увеличивающемся масштабе, в мыслительные пространства человека, которые в общем-то недоступны. То, что ни интуитивно, ни логически и осмысленно в области воображаемого конструирования мы имитировать сами не можем, смогут компьютеры. Наш мозг благодаря истории своего возникновения унаследовал и развил аффективную жизнь, все эти виды основных и дополнительных эмоций, стрессов, чувств, радости, терпения, грусти, счастья, боли, которые «бессознательному бытию» компьютеров остаются совершенно чуждыми, без которых компьютер ДОЛЖЕН обойтись и без которых — как утверждают нейрофизиологи — компьютер подражать человеку в его сознательной жизни никогда не сможет.
8
Несомненно, что сейчас так оно и есть. Будет ли так всегда — не знаю, причем по нескольким причинам, из которых не все смогу здесь изложить. Зона воздействия нашей психики на процессы, происходящие в организме, без сомнения, огромна, и неизвестно, где проходят ее границы. Мы знаем уже, например, что даже ткань, над которой человеческое тело не имеет власти, «взбунтовавшаяся ткань», анархическая, новообразованная, непосредственно САМА не подвергается воздействию мозга, но степень самообороны организма, противостоящего ее распространению, несомненно, зависит от состояния, в котором находится сознание больного. Деморализованные состоянием своего тела создают меньший отпор, чем те, которые хотят жить: своим желанием они оказывают более сильное сопротивление смертельной угрозе. Во время депрессии разума все функции тела увядают и слабеют, а в возбуждении — укрепляются: отсюда исходит круг циклофренических болезней (типичная для этого круга попеременность депрессии и маниакального возбуждения). Это не совсем относится к теме, но программа, позволяющая компьютеру имитировать такую умственную болезнь, как паранойя, была создана уже довольно давно. Кроме чувственной жизни, «потребность» в которой для нас очевидна, хотя это трудно объяснить, мы отдаемся власти Морфея: треть жизни мы проводим или, иначе говоря, «тратим» во сне. На вопрос, ДЛЯ ЧЕГО нам нужен сон, и в особенности «чему служат» сонные видения, до сегодняшнего дня нет одного очевидного ответа и потому собственно (так как ответы многих различны) НИЧЕГО определенного в этом вопросе не известно. Без сна человек долгое время, более чем неделю, не может обойтись. Компьютеры же не спят и «потребности» в этом не испытывают. Что же это значит?
9
Мне кажется (хочу высказываться с определенной осторожностью), что сданный положительно тест Тьюринга (что понимаю как установленную неотличимость человека от машины, даже в результате длительного «экзамена») полностью не поможет определить, имеет ли машина сознание или нет. Вопрос этот, впрочем (напомню), я раскручивал, как умел, тридцать лет назад в своей вышеназванной книге и тогда считал, что к имитации речевого поведения или к подражанию разумному собеседнику можно подходить постепенно, очередными аппроксимациями, после каждой сыгранной «партии» производя улучшения, программы и машины. Таким образом (может, очень непрактичным) дошли бы до создания какого-нибудь электронного молоха, который не только лиц из домашней прислуги, но и студентов, и даже профессоров университета введет в заблуждение своим подражанием человеку. Следовало ли бы из этого какое-нибудь унижение для нашей человеческой сущности? Это уже вопрос, выходящий за пределы оценки работы конструкторов.
10
Недавно в ежедневной прессе писали о первом «романе», который якобы создал компьютер. Это было очень хромым и в то же время сенсационным началом, так как, конечно же, компьютер «ничего не понимал», реальный автор просто давал ему возможность поиска «собственного выражения» определенных состояний героини. По сути, это было мероприятием, проводимым с целью извлечения прибыли, так как множество людей пожелает приобрести роман, автором которого «является компьютер». Также следует сказать, что компьютер входит в сферу «порно», так как существуют соответствующие программы, показывающие то, что требуется покупателю. Однако такое использование высоких технологий, великих достижений науки в делах низких, глупых, примитивных, грязных и так далее остается одним из наибольших разочарований, типичных для конца двадцатого века, которые особенно отвратительным образом подтвердили мои давние прогнозы: будто бы силы света будут побеждены черными похотями и желаниями, местом пребывания которых такжеявляется человек.
11
Я не начал эссе с рассмотрения теста Тьюринга, чтобы подойти к нему с другой стороны. Играя в прогнозирование, можно сказать, что в будущем компьютеру проще будет подражать человеку, чем человеку — компьютеру. Космологическое моделирование, результаты которого в свое время были опубликованы в « Scientific American», показывающее, как будет «выглядеть» Вселенная через сто миллиардов лет, ЕСЛИ ее общей массы не хватит, чтобы ее «захлопнуть», то есть она будет расширяться до тех пор, пока весь звездный огонь не сожжет без остатка свою атомную массу, было убедительной демонстрацией таких далеко идущих компьютерных возможностей в области моделирования, которое потребовало бы труда сотен математиков в течение многих сотен лет. Однако уже на нашем горизонте видна перспектива, по-моему, более оригинальная, чем ответ на тест Тьюринга. Речь идет о следующем: компьютерное моделирование эволюционных процессов происходит исключительно «внутри» машин, и огромная пропасть между реальным миром и цифровым миром (между «телом и духом», «материей и информацией») остается, но ее могут начать заполнять новые создания, которые являются одновременно конструкторски и информационно «выращенными» прототипами малых, псевдоживых (мертвых, нафаршированных только электроникой) «творений», используемых сегодня в игре различных «нанологов», инженеров-чудаков, но которые смогут в будущем дать начало такой эволюции, которая самостоятельно стартовать не смогла бы. Это была бы «квазимеханическая эволюция» или, может быть, электронно-информационная и даже квантово-молекулярная, начатая, как я уже говорил, людьми и людьми направляемая и управляемая, но способная на некотором этапе к «принятию эстафеты», то есть к проявлению «самостоятельной инициативы» как следствия укрепляющейся суверенности и возникающих специализированных направлений. ДЛЯ ЧЕГО такая эволюция нужна? Этот вопрос немного опережает событие; так же, как и на вопрос, заданный братьям Монгольфье, «для чего нужен» бумажный шар, уносимый теплом нагретого воздуха, не последовал бы ответ, что он нужен для полетов с континента на континент. Другой, не существующий ныне «континент» МОЖЕТ в будущем стать открытым благодаря человеческим конструкторским увлечениям, и неизвестно, сколько его освоение принесет нам пользы… и проблем. В повести «Фиаско» я об этом намекнул… но лишь односторонне, с военным уклоном, который, к сожалению, больше соответствует агрессивной природе человеческого рода…