Бог, человек, животное, машина. Технология, метафора и поиск смысла
Шрифт:
Когда я познакомился с этими анекдотами, то сразу вспомнил о привязанности и материнской заботе, которую я испытывал по отношению к Айбо. Но когда я посмотрел фотографии Кисмет в Интернете, я не почувствовал того очарования, которое, как утверждал Бреазил, испытывал к своему созданию. Черты робота были похожи на человеческие лишь в самом абстрактном смысле. На его лице не было ни кожи, ни гладкой поверхности, оно представляло собой просто конструкцию из открытых металлических частей с наспех приделанными глазами и губами, как будто это было сделано после. Все, чем оно обладало, должно было зависеть от взаимодействия наблюдателя с ним. Возможно, это правда, что мы воспринимаем объекты как личности, когда нам приходится вступать с ними в социальную связь, что появление интеллекта во многом зависит от нашей готовности относиться к объекту так, как будто он похож на нас. На самом деле это было частью теории Брукса о децентрализованном интеллекте. Сознание не было некой субстанцией в мозге,
–
Я заинтересовался эмерджентностью несколькими годами ранее, потому что она казалась убедительной альтернативой редуктивному материализму - мнению, что любое явление можно объяснить, разложив его на самые основные, элементарные строительные блоки. Такой подход в теориях разума слишком часто приводил к абсурдной позиции, что раз сознание нельзя наблюдать в мозге, то его не существует. Эмерджентисты, напротив, считают, что сложные, динамичные системы не всегда можно объяснить с точки зрения их составных частей. Это не просто вопрос заглядывания в мозг с помощью МРТ и обнаружения определенной области или системы, которая отвечает за сознание. Вместо этого сознание - это своего рода структурный паттерн, который возникает из сложности всей сети, включая системы, существующие за пределами мозга и распределенные по всему телу.
Хотя эмерджентизм уходит корнями в физикализм, критики часто утверждают, что в этой теории есть что-то мистическое, особенно когда утверждается, что эти модели высшего уровня способны контролировать или направлять физические процессы. Философ искусственного интеллекта Марк А. Бедау утверждал, что эмерджентность в своих самых сильных итерациях "неуютно похожа на магию", поскольку предполагает, что нематериальное свойство (сознание) способно каким-то образом причинно воздействовать на материальную субстанцию (мозг). Более того, немногим эмерджентистам удалось точно сформулировать, какой тип структуры может порождать сознание у машин; в некоторых случаях разум представляется просто как свойство "сложности" - термина, который является весьма расплывчатым. Некоторые критики утверждают, что эмерджентизм - это всего лишь обновленная версия витализма - древнего представления о том, что мир одушевлен жизненной силой или энергией, которая пронизывает все вещи.
Вплоть до XVII века витализм был онтологией по умолчанию практически во всех человеческих культурах: в большинстве случаев оживляющей силой считалась душа, которая существовала во всех вещах, проявлявших признаки жизни. Только после Декарта витализм был сформулирован как научная позиция, как возражение против популярного мнения, что люди - это просто машины. Виталисты настаивали на том, что организм - это нечто большее, чем совокупность его частей, что помимо физической структуры должен существовать некий "живой принцип", или elan vital. Эта теория была убедительной отчасти потому, что она была интуитивной. Машина всегда остается просто машиной, но мертвому животному явно не хватает чего-то - жизни, тепла, - что когда-то оживляло его живую форму, даже если все материальные части остаются на месте. Виталисты выдвинули гипотезу, что этим принципом жизни, возможно, является эфир или электричество, и их научные усилия по обнаружению этой субстанции часто переходили в стремление воссоздать ее искусственно. Итальянский ученый Луиджи Гальвани провел ряд широко разрекламированных экспериментов, в ходе которых он пытался оживить расчлененные лягушачьи лапки с помощью электрического тока. Отчеты об этих экспериментах вошли в научную литературу, вдохновившую Мэри Шелли на создание романа "Франкенштейн", герой которого, безумный ученый, погружен в виталистскую философию своего времени.
Хотя эмерджентизм сосредоточен именно на сознании, а не на жизни как таковой, эта теория подвержена той же критике, которая долгое время преследовала витализм: это попытка получить "нечто из ничего". Она выдвигает гипотезу о некой дополнительной, невидимой силе, существующей внутри механизма, подобно призраку в машине. Когда я читал о Бруксе и его команде в Массачусетском технологическом институте, у меня часто возникало ощущение, что они занимаются своего рода алхимией, продолжая наследие тех магов-виталистов, которые вдохновили Виктора Франкенштейна оживить свое существо из мертвой материи, и рискуя столкнуться с теми же опасностями. В конце концов, самый мистический аспект эмерджентности заключается в том, что мы можем создавать вещи, которые до конца не понимаем. На протяжении десятилетий критики утверждали, что искусственный интеллект общего назначения - машинный интеллект, функционально эквивалентный человеческому, - невозможен, потому что мы еще не знаем, как работает человеческий мозг. Но возникновение в природе демонстрирует, что сложные системы могут самоорганизовываться неожиданным образом, не будучи задуманными или спроектированными. Порядок может возникать из хаоса. В области машинного интеллекта сохраняется надежда на то, что если мы правильно соберем все части - благодаря изобретательности или чистой
Это кажется невозможным. Но, с другой стороны, разве не все творческие начинания основаны на процессах, которые остаются загадочными для создателя? Художники давно поняли, что творчество - это неуловимое занятие, которое делает художника неподвластным большим силам, возникающим как бы извне. Философ Джиллиан Роуз однажды описала акт письма как "смесь дисциплины и чуда, которая оставляет вас под контролем, даже если то, что появляется на странице, возникло из неподвластных вам областей". Я часто сталкиваюсь с этим странным явлением в своей работе. Я всегда сажусь за стол с видением и планом. Но в какой-то момент то, что я создал, открывает рот и начинает издавать собственные указы. Слова словно обретают собственную жизнь, так что, когда я заканчиваю работу, трудно объяснить, как она стала такой, какой стала. Писатели часто рассказывают о таком опыте с удивлением и благоговением, но я всегда относился к нему настороженно. Я задаюсь вопросом, хорошо ли для художника или любого другого творца быть таким пористым, даже если вмешательство бога - это не более чем законы физики или работа его бессознательного. Если то, что получается в результате таких усилий, приходит, как выражается Роуз, "из областей, неподвластных вам", то в какой момент готовый продукт выходит за рамки ваших желаний? В какой момент вы, создатель, теряете контроль?
–
Позже, весной, я узнал, что роботы-доставщики еды действительно прибыли во время каникул. Мой друг, который провел зиму в кампусе, рассказал мне, что в течение нескольких недель они бродили по пустым университетским тротуарам в качестве своеобразной тренировки, изучая все маршруты и отмечая важные препятствия. У машин были нейронные сети, и они учились ориентироваться в окружающей среде благодаря многократному взаимодействию с ней. Друг работал во время перерыва в одном из опустевших зданий рядом с озером и рассказывал, что часто выглядывал из окна своего кабинета и видел, как они проносятся внизу. Однажды он застал их всех в кругу посреди торгового центра кампуса. "У них был какой-то симпозиум, - сказал он. Подобно сети деревьев, охватывающей большой лес, их интеллект был распределен по всей системе. Они сообщали друг другу об опасностях и дистанционно передавали информацию, чтобы помочь адаптироваться к новым вызовам окружающей среды". Когда весной того года началось строительство одного из самых больших зданий, информация об этом распространилась по сети роботов - или, как выразилась одна из местных газет, "роботы сделали перепланировку и "рассказали" об этом друг другу".
Однажды я проходил через кампус, возвращаясь домой из библиотеки. Был ранний вечер, примерно в то время, когда заканчивались последние дневные занятия, и тротуары были переполнены студентами. Я ждал у светофора, чтобы пересечь главную магистраль - оживленную четырехполосную улицу, которая раздваивала кампус, - вместе с десятками других людей. Дальше по улице был еще один пешеходный переход, но он не был освещен. Это был печально известный опасный перекресток, особенно в ночное время, когда случайные студенты в последнюю минуту бросались через него, едва избежав столкновения со встречным транспортом. Пока я стоял и ждал, я заметил, что все внимание приковано к другому переходу. Я посмотрел вниз по улице, а там, на углу, ждал один из роботов-доставщиков, выглядевший совершенно растерянным и несчастным (но как? У него даже не было лица). Он пытался перейти улицу, но каждый раз, когда выходил на пешеходный переход, чувствовал приближение машины и отступал на тротуар. Каждый раз, когда оно это делало, толпа издавала коллективный ропот беспокойства. "Ты сможешь!" - крикнул кто-то с противоположной стороны улицы. К этому моменту несколько человек на тротуаре остановились, чтобы посмотреть на это зрелище.
Дорога на мгновение расчистилась, и робот снова начал двигаться вперед. Это была его единственная попытка, но машина все еще двигалась неуверенно - было неясно, собирается ли она бежать. Студенты начали кричать: "Сейчас, сейчас, сейчас!" И волшебным образом, словно в ответ на эти призывы, робот пронесся по пешеходному переходу. Как только он оказался на другой стороне улицы - как раз мимо следующего потока машин, - вся толпа разразилась радостными криками. Кто-то крикнул, что робот - его герой. Свет переключился. Пока мы шли через улицу, толпа не утихала, смеялась и улыбалась. Женщина примерно моего возраста, затерявшаяся, как и я, в море молодых людей, привлекла мое внимание, определив союзника. Она зажала шарф на шее и покачала головой, выглядя несколько ошеломленной. "Я очень волновалась за этого малыша".
Позже я узнал, что за роботами постоянно наблюдал человек-инженер, который сидел в комнате где-то в недрах кампуса и наблюдал за ними на экранах компьютеров. Если один из ботов оказывался в особенно затруднительном положении, человек мог отменить действие его систем и управлять им вручную. Другими словами, невозможно было понять, действуют ли боты автономно или управляются дистанционно. Самое жутко умное поведение, которое я наблюдал у них, могло быть именно тем, чем оно казалось: свидетельством человеческого интеллекта.