Кристальные ночи
Шрифт:
— Лабиринт — не тупик, — сказал Даниэль. — Когда мне было двенадцать, я написал программу для поиска выхода из лабиринтов.
— Уверена, она работала отлично, — откликнулась Юлия. — Для небольших плоских лабиринтов. Но вы же знаете, как масштабируются такие алгоритмы. Загрузите в этот кристалл свою старую программу — и всё равно, я за несколько часов составлю такой лабиринт, с которым ей не совладать.
— Не сомневаюсь, — признал Даниэль. — И именно по этой причине я заинтересован в том, чтобы вас нанять. О лабиринте ИИ вы знаете куда больше меня; какую бы стратегию вы ни разработали — она будет
— Я не говорю, что просто брожу в темноте. Будь это так, я бы сейчас билась над совершенно иными проблемами. Но я просто не вижу, какой прок мне от этого процессора.
— В результате какого процесса возник единственный пример сознания, который нам известен?
— Эволюции.
— Именно. Но я не хочу ждать три миллиарда лет. Поэтому нужен гораздо более направленный процесс селекции, нужно напрямую обращаться к факторам вариации.
Юлия немного поразмыслила над этим.
— Вы хотите, чтобы я попыталась вывести настоящий ИИ путём эволюции? Сознающий себя искусственный интеллект, равный человеческому?
— Да.
Даниэль увидел, как она поджала губы, как она старается подобрать слова, прежде чем заговорить.
— При всём уважении, мне кажется, вы недостаточно хорошо это продумали, — сказала она.
— Отнюдь, — заверил её Даниэль. — Я планировал это в течение двадцати лет.
— Вся эволюция построена на неудачных попытках и смерти. Вы хоть представляете, сколько наделённых чувствами существ жили и умирали, чтобы проложить дорогу для Homo Sapiens? Сколько при этом было страданий?
— Частью вашей работы будет минимизировать страдания.
— Минимизировать их? — воскликнула Юлия. Казалось, она искренне шокирована, словно это предложение было ещё хуже, чем наивное предположение о том, что работа не вызовет этических затруднений. — Да какое у вас вообще есть право обрекать их на страдания?
— Вы рады, что существуете, не так ли? — вопросом на вопрос ответил Даниэль. — Несмотря на все страдания ваших предков.
— Да, я рада, что существую, — согласилась она. — Но в случае людей страдания не являются намеренно кем-то вызванными. Кроме того, у нас не было альтернативного способа появиться на свет. Если бы справедливый Создатель действительно существовал, не сомневаюсь — он бы последовал Книге Бытия буквально; чёрт возьми, он бы никогда не воспользовался эволюцией!
— Справедливый и всемогущий, — заметил Даниэль. — Как ни прискорбно, вторая характеристика встречается ещё реже первой.
— Не думаю, что для создания в своём воображении требуется всемогущество. Лишь немного терпения и самопознание.
— Это не будет чем-то вроде естественного отбора, — упорствовал Даниэль. — Не будет таким слепым, таким жестоким и расточительным. Вы будете вольны вмешиваться столько, сколько хотите, сможете принимать смягчающие меры когда сочтёте нужным.
— Смягчающие меры? — переспросила Юлия, прямо встретив его взгляд — и Даниэль увидел, что выражение недоверия на её лице уступает место чему-то более зловещему. Гостья поднялась и бросила взгляд на браслет-мобильник. — Здесь у меня не ловит. Вы не откажете в любезности вызвать для меня такси?
— Пожалуйста, выслушайте меня, — попросил Даниэль. — Уделите мне ещё десять минут, и потом вертолёт доставит
— Я бы предпочла добраться самостоятельно, — сказала Юлия, бросив на Даниэля красноречивый взгляд; было очевидно, что этот вопрос не подлежит обсуждению.
Даниэль вызвал для неё такси, и они вместе направились к лифту.
— Знаю, это вызывает у вас сомнения с моральной точки зрения, и я уважаю ваше мнение, — сказал Даниэль. — Мне бы и в голову не пришло нанять кого-то, кто счёл бы эти проблемы незначительными. Но если я откажусь от этого проекта, им займётся кое-кто другой. Кое-кто с куда худшими намерениями.
— О, правда? — удивилась она с подчёркнутым сарказмом в голосе. — Так объясните же мне, как само существование вашего проекта заставит этого гипотетического Бин Ладена от ИИ остановить свой?
Даниэль был разочарован; он рассчитывал — она по крайней мере поймёт, что стоит на кону.
— Идёт гонка, в которой решается — быть божественности или рабству, — сказал он. — И того, кто придёт первым, будет невозможно остановить. Я ничьим рабом быть не собираюсь.
Юлия вошла в кабину; Даниэль последовал за ней.
— Знаете, что говорят о современной версии пари Паскаля? — спросила она. — Нужно подлизаться как можно к большему числу сверхлюдей — на случай, если один из них превратится в Бога. Возможно, вашим девизом стоит сделать «Обращайтесь со всеми интернет-ботами по-доброму: каждый из них может оказаться дядюшкой божества».
— Мы проявим максимум милосердия, — сказал Даниэль. — Не забудьте, мы можем определить природу этих созданий. Они будут счастливы, что живут, они могут быть благодарны своему Создателю. Эти черты мы можем вывести селекцией.
— Значит, вы хотите создать сверхлюдей, Эbermenschen, которые будут вилять хвостиком, когда вы станете чесать у них за ушком? Не боитесь вдруг обнаружить, что это потребует неприемлемого компромисса с совестью?
Лифт спустился на первый этаж, в холл.
— Подумайте как следует, не торопитесь с решением, — сказал Даниэль. — Можете звонить мне в любое время.
Сегодняшним вечером рейса на Торонто не было. Ей предстояло застрять в отеле, выложить за номер деньги, которые она почти не могла себе позволить, размышляя о том, какую зарплату она могла бы потребовать теперь, когда она продемонстрировала свою принципиальность и недоступность. Хорошенько всё обдумав, она сможет обратить проявленную сегодня морализаторскую упёртость в повод продать себя подороже. У неё не возникнет проблем с тем, чтобы засунуть свою гордость подальше.
Юлия протянула ему руку, которую он пожал.
— Спасибо за ужин, — сказала она.
Такси уже стояло в ожидании. Даниэль проводил гостью через весь холл.
— Если вам хоть раз в жизни доведётся увидеть ИИ, — сказал он, — это единственный способ.
Юлия повернулась к нему, чтобы прямо посмотреть ему в глаза:
— Может, вы и правы. Посмотрим. Но лучше потратить тысячу лет и сделать всё как надо, чем преуспеть вашими методами за десятилетие.
Видя, как такси скрывается в тумане, Даниэль заставил себя принять реальность: она своё решение не изменит. Юлия Дегани была главной кандидатурой, идеальным сотрудником. Было глупо делать вид, что эта неудача ничего не значит.