Новый Мир (№ 4 2010)

Журнал Новый Мир

Попробуем разобраться.

Есть модели (в основном сконструированные теми же писателями-фантастами), в которых разум отделен от сознания. В лемовской «Формуле Лимфатера» предложена модель получения организмами или искусственными конструктами знаний неким неэмпирическим путем. Такие существа не обязательно будут разумны в нашем понимании (им это и не требуется, поскольку они заведомо знают «все и сразу»), но действия, производимые ими, будут казаться нам разумными. Другое дело, что эти действия будут совершаться этими гипотетическими существами на уровне инстинк­та — автоматической реакции на раздражители. Инстинктивные действия вообще выглядят исключительно целесообразно, а при антропоморфизации, очеловечивании объекта, что вообще присуще людям, — даже разумно. Недаром мы склонны приписывать инстинкту признаки разума — до тех пор, пока изменение окружающей среды не выводит инстинктивные действия, так сказать, на чистую воду [22] .

Парадоксально,

но с этой точки зрения существа, обладающие абсолютным знанием (как супермозг у Лема в «Формуле Лимфатера» или боги у Андрея Лазарчука в «Кесаревне Отраде»), априори будут неразумными , точнее, не обладающими сознанием. Им не надо делать выбор на основе неполных данных — они и так обладают оптимальными решениями на все случаи жизни.

Но если не брать в расчет крайние и потому вполне отчетливые случаи, дать определение разуму со всем комплексом вытекающих отсюда этических проблем весьма сложно. Недаром я начала эту статью с душераздирающей истории про гориллу Майкла и его маму. Пойдем дальше — ivanov_petrov , биолог и популяризатор науки, недавно выложил в своем ЖЖ подборку сведений о муравьях. Муравьи, пишет он, «вымакивают жидкость сухими комочками грунта, как губкой — так им удается переносить больше жидкости из, скажем, лужи древесного сока. Некоторые виды сшивают листья, пользуясь собственными личинками как сшивальными автоматами. А с другой стороны, — они обучаются в привычном нам смысле, а привычный нам смысл — это именно доработка инстинкта в соединении с каким-то пустяковым новшеством» [23] ...

Муравьи способны «делать карьеру». В работах крупнейшего нашего специалиста А. А. Захарова [24] подробно рассказывается, как обычный наш лесной муравей Formica начинает карьерный рост с полной опасностей жизни фуражира — добытчика корма — на самых отдаленных подступах к гнезду, постепенно, с ростом опыта и с учетом естественной гибели работников, продвигаясь все ближе и ближе к муравейнику, и наконец (вершина карьеры) становится стражем и координатором на том склоне муравейника, который обращен к прежнему участку его деятельности. (Как если бы на крупном рыбообрабатывающем предприятии выслужиться от простого рыбака, выходящего на утлой лодке в бурное море, до крупного менеджера — что-то в этом есть очень японское.) Но «если будут разрушены дороги муравьев, — пишет далее ivanov_petrov, — именно эти опытные старые муравьи вновь пойдут по почве, обновляя дороги и кормовые участки, размечая их метками, — они помнят кормовые угодья муравейника, помнят, где расположены загоны с тлями, где дорога идет в заросли травы, которая дает отличные семена. Транспортную сеть держат в голове эти муравьи — каждый обновляет те участки, где он раньше охотился, и все вместе они восстанавливают все дороги, так что у муравейника память распределенная». Муравьи охотятся на прытких коллембол, пасут тлей, устраивая им загончики-коровники, выводя попастись на солнышко и вечером унося обратно. Выращивают в своих оранжереях съедобные грибы, удобряют землю. Муравьи подвержены саморазрушительной наркомании… Муравьи содержат рабов и устраивают самые настоящие набеги на другие муравейники. Муравьи вступают во внутривидовые и межвидовые альянсы, рвут их по исчезновении необходимости и так далее. Муравьи, как было когда-то доказано, способны транслировать друг другу «свернутые» пакеты информации, а значит, прибегают к абстрактным понятиям.

Разумны ли они?

Во-первых, это зависит от нашего собственного понимания разума, а с этим, как мы только что выяснили, у нас самих проблемы, во-вторых, и это главное, вступить в контакт с ними нам вряд ли удастся. К тому же рискну сказать, что ни мы, ни муравьи просто не ставят перед собой этой задачи.

К чему я это? К тому, что определить степень разумности вообще очень трудно. Встретив, скажем, инопланетный разум, мы можем не распознать его, а распознав, не понять. А поняв, можем очень-очень расстроиться, поскольку толку в таком понимании не будет никакого.

Вернемся к истории, рассказанной Питером Уоттсом.

Попытки «взломать» «Роршаха» (инопланетный корабль и его команда не совсем корабль и команда, но что-то вроде колонии организмов, где у каждого своя узкоспециальная функция) удаются, но оборачиваются чередой потерь и травм для экипажа — среда внутри корабля враждебна людям. Впрочем, люди берут в плен двух «инопланетян», которые, возможно, вообще не являются отдельными организмами. Тем не менее эти «неразумные» организмы при попытке контакта (а то

и при попытке научения посредством физических пыток) демонстрируют удивительную сообразительность и способность решать сложнейшие задачи. Мало того, «Роршах», возможно, просто позволил землянам проникнуть в свой корабль и подсадил своих «шпионов» — вся экспедиция заканчивается сокрушительной гибелью «Тезея» (быть может, и его врага, но понятно, что он — один из многих, семя, занесенное в эту область Вселенной космическим ветром). Удалось выяснить одно: «Роршах» и ему подобные действительно представляют опасность для землян. Потому что земляне представляют опасность для «Роршаха» и ему подобных.

«Представь, что у тебя <…> есть задачи, но нет сознания. Твои нервы звенят от программ выживания и самосохранения, гибких, самоуправляемых, даже технологических — но нет системы, которая приглядывала бы за ними. Ты можешь подумать о чем угодно, но не сознаешь ничего.

<…>

Представь, что ты сталкиваешься с сигналом. Он организован, насыщен информацией. Удовлетворяет всем критериям осмысленной передачи. <…> Иногда подобные передачи ведут соплеменники, чтобы поделиться полезной информацией, — их жизни ты будешь защищать согласно правилам родственного отбора. Иногда сигнал исходит от конкурентов, или хищников, или других противников, которых надо уничтожить или сбить со следа; в этом случае информация может оказаться тактически полезной. Некоторые передачи могут даже исходить от существ хотя и не родственных, но способных стать союзниками или симбионтами во взаимовыгодных действиях. На каждый из этих случаев и на множество других можно выработать подходящий ответ.

Ты расшифровываешь сигнал и приходишь в замешательство:

Я здорово провела время. Получила массу удовольствия. Хотя стоил он вдвое больше любого другого жиголо под куполом…

Чтобы вполне оценить квартет Кизи…

Они ненавидят нас за нашу свободу…

<…>

Эти термины не имеют осмысленного перевода. Они неразумно рефлексивны. Они не содержат полезной информации — и все же организованы логически. Случайно они также возникнуть не могли.

Единственное объяснение состоит в том, что некто зашифровал бессмыслицу под видом полезного сообщения; обман становится очевиден, только когда потрачены время и силы. Сигнал не имеет иной цели, кроме как пожирать ресурсы получателя <…> уменьшая приспособляемость. Это — вирус.

Ни сородичи, ни симбионты, ни союзники не создают вирусов.

Этот сигнал — нападение.

И исходит он вот отсюда.

<…>

— Теперь до тебя дошло, — констатировала Саша.

Я потряс головой, пытаясь уместить в ней безумный, невозможный вывод.

— Они даже не враждебны. Для них такого понятия вообще не существует. Они просто до такой степени чужды нам, что могут воспринимать человеческую речь только как форму агрессии» [25] .

Иными словами, разум, сознающий себя, от разума инстинктивного (в нашем понимании — не-разума) отличается избыточностью. Способностью производить (и оценивать) ложную, ненужную, лишнюю информацию. «Нам союзно лишь то, что избыточно» (О. Мандельштам). Сюда же — к этой области — относится и способность к эстетическому наслаждению, к любованию искусством, природой, закатами-восходами. Собственно, по версии Уоттса, сознание и возникло как механизм для получения удовольствия посредством искусства — своего рода паразитный процесс, подкрепленный положительными стимулами.

«Эволюция лишена предвидения. Свои цели вырабатывает только сложная система. Мозг — лжет. Контуры обратной связи возникают для поддерживания стабильности сердцебиения, а потом мозг сталкивается с искушением ритма и музыки. Удовольствие, получаемое при виде фрактальных узоров, алгоритмы, помогающие выбрать среду обитания, перерождаются в искусство. Радости, которые прежде приходилось зарабатывать шаг за шагом по эволюционной лестнице, теперь приносила бессмысленная рефлексия. Из триллиона дофаминовых рецепторов возникает эстетика, и система перестает просто моделировать организм. Она начинает моделировать процесс моделирования. Она пожирает все больше и больше вычислительных ресурсов, вязнет в болоте бесконечной рекурсии и неуместной симуляции. Как мусорная ДНК, что накапливается в геноме любой твари, система сохраняется, и множится, и ничего не производит, кроме собственных копий. Надпроцесы расцветают, точно опухоли, пробуждаются и называют себя „Я”» [26] .