Прими красную таблетку: Наука, философия и религия в «Матрице»
Шрифт:
Я решил, что пришла пора переговорить с моим другом Дэнни Хиллисом. Дэнни прославился как соучредитель Thinking Machine Corporation, в которой был создан очень мощный параллельный суперкомпьютер. Несмотря на то что моя сегодняшняя должность звучит как руководитель исследовательских работ в компании Sun Microsystems, я в большей степени практик, чем ученый. Так что я уважаю познания Дэнни в области информатики и физики больше, чем любого другого знакомого мне человека. К тому же Дэнни — весьма уважаемый футуролог, делающий долгосрочные прогнозы. Четыре года назад он основал Long Now Foundation. Фонд занимается созданием часов, способных функционировать 10 000 лет, с целью привлечь внимание к ничтожно малой
185
Hillis, p. 78.
Так что я полетел в Лос-Анджелес. У меня была конкретная цель — отобедать с Дэнни и его женой Пэти. Я изложил им все свои соображения, заостряя внимание на идеях и эпизодах, так меня волновавших. Свой ответ, особенно по отношению к версии Курцвейля относительно слияния людей с роботами, Дэнни сформулировал быстро. Этот ответ порядком удивил меня. Дэнни сказал, что изменения будут происходить настолько постепенно, что мы свыкнемся с ними.
Ответ этот не так уж сильно потряс меня. Я уже видел цитату Дэнни, приведенную в книге Курцвейля. «Я точно так же люблю свое тело, как любой другой, но если я смогу жить двести лет с телом из кремния, то я пойду на это», — сказал Дэнни. Похоже, он вполне соглашался с этим процессом и связанным с ним риском, тогда как я — нет.
Беседуя и размышляя о Курцвейле, Качинском и Моравеке, я неожиданно вспомнил роман, который прочел почти двадцать лет назад. Это был роман Фрэнка Герберта «Белая чума». Герой этого произведения, молекулярный биолог, сходит с ума, потому что его семья гибнет в результате бессмысленного убийства. Охваченный жаждой мести, он выводит и распространяет новых и очень заразных возбудителей чумы, убивающих в больших масштабах, но избирательно. (Нам повезло, что Качинский оказался математиком, а не молекулярным биологом.) Мне также вспомнился Борг из «Звездного пути», улей, населенный частично биологическими, частично роботизированными созданиями с сильным деструктивным началом. Описание ужасов вроде Борга — это главный элемент научной фантастики. Почему же меня не заботили подобные дисто-пические перспективы роботизации раньше? Почему эти кошмарные сценарии не привлекли внимания остальных людей?
В какой-то степени ответ на этот вопрос, конечно, лежит в нашем отношении ко всему новому — в нашем пристрастии к мгновенной близости и полному согласию. Несмотря на то что мы привыкли жить в условиях, когда крупные научные открытия стали почти обыденными, нам необходимо свыкнуться с тем фактом, что самые привлекательные технологии XXI века — робототехника, генная инженерия и нанотехнологии — представляют качественно иную угрозу, чем ранее освоенные человеком технологии. Конкретно говоря, роботы, искусственно запрограммированные организмы и наноботы отличаются опасным свойством: они могут самовоспроизводиться. Бомба взрывается лишь однажды, а вот один бот может расплодиться и быстро выйти из-под контроля.
В основном моя работа на протяжении последних двадцати пяти лет была связана с организацией сетей вычислительных машин, в которых отправление и получение сообщений создает возможность для неуправляемого дублирования. Но хотя дублирование в компьютере или в компьютерной сети и может доставить какие-то неприятности, в худшем случае оно выводит машину из строя либо разрушает сеть или сетевую службу. Неконтролируемое же самовоспроизводство, характерное для передовых технологий, угрожает куда большим риском — риском нанесения существенного вреда в физическом мире.
Кроме того, каждая из этих технологий предлагает баснословные перспективы: скорое
Чем отличался XX век? Разумеется, технологии, лежавшие в основе оружия массового поражения — ядерного, биологического и химического (NBC-технологии), были мощными, а оружие представляло собой чудовищную угрозу. Однако создание ядерного оружия требовало, по крайней мере какое-то время, доступа к двум редким — и в действительности не всегда имевшимся в распоряжении — источникам: сырью и тщательно защищаемой информации. Программы по созданию биологического и химического оружия также требовали масштабной деятельности.
Технологии XXI века — генетика, нанотехнология и робототехника (GNR-технологии) — настолько мощны, что могут вызвать новые разновидности катастроф и злоупотреблений. В первую очередь опасность представляет доступность этих технологий отдельным лицам или небольшим группам. Им не потребуется много оборудования или редкое сырье. Одно лишь знание сделает возможным использование этих технологий.
Таким образом, мы получаем возможность создавать не просто оружие массового уничтожения, а формулировать знание, позволяющее производить массовое уничтожение. Его разрушительная сила будет значительно усилена способностью самовоспроизводства.
Думаю, не будет преувеличением сказать, что мы находимся на пике дальнейшего усовершенствования предельного зла — зла, возможности которого выходят далеко за пределы оружия массового уничтожения, находящегося в распоряжении государств-наций, и могут привести к непредсказуемому и ужасному могуществу отдельных экстремистов.
Моя работа с компьютерами никогда не наводила меня на мысль о том, что мне придется столкнуться с подобными проблемами.
С самого начала моей жизнью руководила потребность задавать вопросы и находить на них ответы. В возрасте трех лет я уже умел читать, поэтому отец отвел меня в начальную школу. Меня усадили на колени к директору, и я прочел ему какой-то текст. В школу я пошел рано, потом стал «перепрыгивать» через классы и с головой уходил в книги: мною двигало невероятное желание познавать. Я задавал много вопросов и нередко сбивал взрослых с толку.
Подростком меня очень интересовала наука и технология. Я хотел стать радиолюбителем, но у меня не было денег для покупки необходимого оборудования. Для той поры радиолюбительство было подобно Интернету: на него быстро «подсаживались», и в то же время это было одинокое занятие. Помимо финансовых трудностей, моему намерению помешала твердая позиция моей матери. Она решила, что я ни за что не буду радиолюбителем. Я и без того был достаточно замкнут.
Может, у меня и не было много близких друзей, зато меня переполняли идеи. К началу средней школы я открыл для себя великих авторов научно-фантастических произведений. Особенно мне запомнились такие произведения, как «Будет скафандр — будут и путешествия» Хайнлайна и «Я, робот» Азимова, где были сформулированы три закона робототехники. Я был очарован описаниями космических путешествий, и мне хотелось иметь телескоп для того, чтобы смотреть на звезды. Поскольку у меня не было денег на покупку телескопа или его сборку, вместо этого я стал искать в библиотеке книги по конструированию телескопов и штудировать их. Я парил в своем воображении.