Новый Мир (№ 4 2010)

Журнал Новый Мир

Ну вот, мы и выяснили самое главное. Человек — это тот, который в своих действиях руководствуется не голой прагматикой, а некими сложными, часто противоречивыми импульсами (у Станислава Лема в «Дознании» Пиркс именно так формулировал основное отличие человекоподобного робота от человека). «Наш», человеческий разум опирается на избыточность, ошибку, постоянно выверяя свою стратегию с учетом вероятности ложных данных. Собственно, Уоттс не сказал нам ничего нового. Недаром в хоре восторженных откликов на роман раздавались и скептические голоса: мол, из-за чего весь этот шум?

Не

проще ли, скажем, обратиться к классике, например к эпилогу «Войны и мира»?

«Всякий человек, дикий и мыслитель, как бы неотразимо ему ни доказывали рассуждение и опыт то, что невозможно представить себе два разных поступка в одних и тех же условиях, чувствует, что без этого бессмысленного представления (составляющего сущность свободы) он не может себе представить жизни. Он чувствует, что, как бы это ни было невозможно, это есть; ибо без этого представления свободы он не только не понимал бы жизни, но не мог бы жить ни одного мгновения.

Он не мог бы жить потому, что все стремления людей, все побуждения к жизни суть только стремления к увеличению свободы. Богатство — бедность, слава — неизвестность, власть — подвластность, сила — слабость, здоровье — болезнь, образование — невежество, труд — досуг, сытость — голод, добродетель — порок суть только ббольшие или меньшие степени свободы.

Представить себе человека, не имеющего свободы, нельзя иначе, как лишенным жизни.

Если понятие о свободе для разума представляется бессмысленным противоречием, как возможность совершить два разных поступка в одних и тех же условиях или как действие без причины, то это доказывает только то, что сознание не подлежит разуму» [27] .

Кажется, сказано вполне достаточно. И гораздо раньше, чем это сделал Уоттс.

Можно ли на этом успокоиться? Вряд ли.

Хитроумный Уоттс подбрасывает нам напоследок одну странную деталь. Эвакуируясь с растерзанного, уничтоженного корабля, герой сталкивается со своим командиром, вампиром Юккой Сарасти, который, собственно, и велит ему убираться. Тут есть, однако, небольшая закавыка. Вампир мертв. Тем не менее он отдает приказ и даже вступает с героем в диалог — при помощи наладонника, работающего

в текстовом режиме (говорить он не может — голова разворочена, мозг погиб). И в ходе этого диалога вроде бы выясняется, что никакого страшного Сарасти, вампира, извечного врага и страха человечества, своей харизмой подавляющего «мясо», человеческий экипаж, на корабле никогда и не было. А был лишь придаток Капитана, суперкомпьютера «Тезея», собственно и принимавшего все стратегические решения.

«Труп Сарасти подтолкнул меня в спину. Я обернулся.

— Это хоть когда-нибудь был он? — спросил я.

Иди.

— Скажи. Он хоть раз говорил за себя? Решал ли хоть что-нибудь сам? Следовали мы хоть раз его указаниям или это все время был ты?

Неживые,

стеклянные глаза Сарасти непонимающе пялились на меня. Пальцы его заскребли по наладоннику.

Лди плхо выплняют прикзы мшн. Так вам спкойней » [28] .

Так что же, выходит, вся команда экспертов, искалечивших и перекроивших свои тела в угоду торжеству «человеческого» разума, выполняя сложнейшее задание, рискуя жизнями и в конце концов эти жизни отдав за «правое дело», не раздумывая, подчинялась искусственному интеллекту, по определению (как мы уже выяснили тут) в нашем понимании не разумному? Интеллекту, руководствующемуся в своих действиях «высшей прагматикой», без рефлексии, без «ложных» посылов. Чем же в таком случае действия «Тезея» и его команды отличались от действий «Роршаха»

и его команды, неразумных, но очень эффективных полипов — «болтунов», как прозвала их «человеческая» команда «Тезея»?

Ничем. В сущности, ничем. Не потому ли результат столкновения получился таким драматическим. Ведь действия Сарасти с самого начала казались команде излишне жесткими, но команда списывала это на извечную загадочность и непогрешимость вампиров, старшей и страшной расы. Выходит, сами люди не только не способны отличить действующее сознательно разумное существо от бессознательного машинного интеллекта, но даже не способны оценить разумность собственных действий?

Итак, «правильная» реакция на раздражители не обязательно означает сознание; мало того, чем она автоматичней, инстинктивней, тем выгодней (сознательные действия, напомню, связаны с большими энергетическими затратами). Поэтому теоретически, говорит Уоттс, среди нас могут появляться отдельные особи — «зомби», — ведущие себя так, словно они разумны, но на самом деле просто демонстрирующие адекватные реакции на определенные социальные раздражители. Уоттс называет таких особей социопатами — лишенные воображения, они, по определению, лишены и эмпатии, сочувствия, хотя могут внешне демонстрировать проявления этих признаков. Такие особи будут успешны именно вследствие того, что не будут расходовать излишнюю энергию на глупости, действуя как «интеллектуальные автоматы».

«<...> никакое разумное существо не сумеет выделить зомби из толпы себе подобных. <…> Оно сможет даже участвовать в разговорах вроде нашего. Сможет писать письма родным, изображать реальные эмоции, ни в малейшей мере не воспринимая собственного существования. <…> О, мимикрия может оказаться не идеальной. Зомби станет слишком говорливым или будет скатываться время от времени до многословных лекций. Но так и настоящие люди поступают, верно? <…> А вот что действительно интересно, так это количество социопатов в высших эшелонах власти, хм? Как превозносятся безжалостность и предельный эгоизм в стратосфере, в то время как на уровне земли всякого, кто проявит те же черты, закатывают в тюрьму к реалистам. Словно само общество метаморфирует изнутри.