Прими красную таблетку: Наука, философия и религия в «Матрице»
Шрифт:
Она спрашивает Элвекса, что ему снится. И Элвекс отвечает, что во сне он видел огромное множество роботов, и все они занимались тяжелой работой, однако в отличие от настоящих роботов, которых он наблюдает в действительности, увиденные во сне роботы «удручены непосильными трудами и глубокой скорбью… они устали от бесконечной работы, и хотел, чтобы они отдохнули».
Продолжая пересказывать свой сон, Элвекс признается, что в конце он увидел среди роботов одного человека:
— Я понял, что в моем сне есть человек.
— Человек? Не робот?
— Да, доктор Келвин. И этот человек сказал:
— Это сказал человек?
— Да, доктор Келвин.
— Но, говоря «мой народ», он имел в виду роботов?
— Да, доктор Келвин. Так было в моем сне.
— И ты знаешь, что за человек тебе приснился?
— Да, доктор Кэлвин. Я узнал его.
— Кто это был?
И Элвекс сказал:
— Это был я.
И Сьюзен Келвин вскинула излучатель, выстрелила — и Элвекса не стало…
Азимов первым предположил, что искусственным интеллектам могут потребоваться человеческие психологи. И все же лучше всего с идеей о сумасшедшем компьютере обошелся, пожалуй, Харлан Эллисон в книге «У меня нет рта, но я должен кричать» (1967). Там у него появляется компьютер по имени AM, это сокращенное от «Allied Mastercomputer». [28] В то же время слово «am» обозначает перевод фразы Декарта «cogito ergo sum» на английский язык: «Я мыслю, следовательно, существую». AM веселится на всю катушку, мучая смоделированных им людей.
28
# Дружественный компьютер (англ.).
Это искусно подобранное имя — AM. За ним в научной фантастике появилось немало так же умело подобранных имен для обозначения искусственных интеллектов. Сэр Артур Ч. Кларк категорически отрицает, что имя Хэл (Hal) он придумал специально, потому что буквы H-A-L в алфавите как раз идут перед буквами I-B-M. Я никогда не верил ему — до тех пор, пока кто-то не указал мне, что в моем собственном романе 1990 года «Золотое руно» ИИ носит имя ДЖЕЙСОН (JASON), а буквы J-C-N стоят как раз после букв IBM.
Если продолжить говорить о невероятных именах, то вспоминается, что суперкомпьютер, в конечном итоге превращающийся в Бога в рассказе Айзека Азимова «Последний вопрос» (1956), получил имя «Multivac», сокращенно от «Multiple Vacuum Tubes» (комбинированные вакуумные лампы), поскольку Азимов ошибочно полагал, что существовавший в действительности один из первых компьютер «Univac» был назван так из-за того, что у него была лишь одна вакуумная лампа, а не сокращенно от «Universal Analog Computer» (универсальный аналоговый компьютер).
Тем не менее проблема наименований показывает нам, что научная фантастика оказывает настолько глубокое влияние на развитие ИИ и робототехники, что теперь настоящие роботы и системы ИИ получают имена авторов научно-фантастической литературы: так, компания Honda назвала своего шагающего робота второго поколения «Asimo», а Казухико Кавамура из университета Вандербильта присвоил своему роботу имя «ISAC».
Это заслуженная дань уважения Айзеку Азимову, который изобрел робопсихологию. И все-таки обычный научно-фантастический сюжет переворачивает
Одним из первых эту идею использовал Роберт Силверберг в рассказе «Потихоньку деградируя» («Going Down Smooth») 1968 года. Но лучшее выражение она получила, на мой взгляд, в романе Фредерика Пола «Врата» (1977), в самом тонком произведении, когда-либо написанном в жанре научной фантастики. В этом романе компьютер-психолог по прозвищу Зигфрид фон Психиоаналитик лечит человека, который мучается чувством вины.
Когда ИИ говорит своему пациенту-человеку, что ему нужно научиться жить со всеми его психологическими проблемами, человек восклицает с возмущением и болью в голосе: «И вы называете это жизнью?» И компьютер отвечает на это: «Да. Именно это я называю жизнью. И в самом лучшем своем гипотетическом чувстве я ей очень завидую».
Это еще один тонко подмеченный момент, касающийся зависти ИИ по отношению к тому, что имеют люди. Рассказ Азимова «Робот, который видел сны» действительно является вершиной данной темы: здесь робот завидует свободе, которая есть у человека.
Все это подводит нас к тому заключению, что ИИ и люди могут в конечном итоге и не договориться друг с другом. Это один из пунктов знаменитого манифеста против технологии «Почему мы не нужны будущему». Он был написан Билли Джоем из Sun Microsystems и появился на страницах журнала Wired в 2000 году Джой ужаснулся при мысли о том, что в конце концов наши кремниевые создания вытеснят нас, как это происходит в таких научно-фантастических фильмах, как «Терминатор» (1984) и «Матрица» (1999). [29]
29
Смотрите статью Джоя в этой книге.
Классический пример ИИ с собственной программой действий — это старый добрый Хэл, компьютер в фильме Стэнли Кубрика «Космическая одиссея 2001» (фильм снят по мотивам романа Артура Ч. Кларка). Позвольте мне объяснить, что, на мой взгляд, действительно происходит в этом фильме. Я считаю, что многие годы этот фильм оставался непонятым.
В начале фильма среди наших предков австралопитеков появляется, очевидно, искусственный монолит и начинает учить их использованию костяных орудий труда. Потом мы одним махом переносимся в будущее, и вскоре космический корабль «Диска-вери» отправляется в полет на Юпитер в поисках создателей монолита.
Во время полета Хэл, бортовой компьютер «Дискавери», сходит с ума и убивает всю команду «Дискавери», за исключением Дейва Боумена, которому удается изъять из компьютера процессор и не позволить Хэлу убить себя. Но прежде чем отключиться, Хэл оправдывает свои действия, говоря: «Эта миссия слишком важна для меня, чтобы я мог позволить вам поставить ее выполнение под угрозу».
Избавившись от Хэла, Боумен препятствует этому психоделическому трипу в духе Тимоти Лири в ходе своего продолжающегося поиска создателей монолита, то есть инопланетян, которые, по убеждению Боумена, должны были сконструировать монолит.