Проект «Кракен»
Шрифт:
– Отставание по искусственному интеллекту? – переспросила Мелисса. – Это вроде как раньше было отставание по ракетам?
– Очень похоже.
Форд посмотрел на девушку. Лицо его было бледным.
– Подробности нашего предложения в папке, – продолжал глава Штатов. – Можете взять ее домой и все хорошенько обдумать. Единственная просьба – не обсуждать с кем-то еще.
Изобретательница отодвинула папку:
– Я отказываюсь.
– Отказываетесь? – удивился президент. – Но вы даже не взглянули на предложение!
Шепард встала:
– В этом нет нужды.
– Что вы имеете в виду? – спросил глава государства.
Девушка окинула взглядом всех присутствующих:
– Настоящий искин, сильный искин, подобен человеческому разуму. И во всем этом есть что-то аморальное. А разрабатывать искусственный интеллект для войны, для убийства… Нет. Очень опасно создавать оружие, которое само способно принимать решение об убийстве, – с программой, которую обучили убивать и которая хочет убивать. Вы не сможете держать его под контролем. Как мне не удалось держать под контролем Дороти. Это откроет ящик Пандоры. С ядерным оружием, по крайней мере, на кнопке лежит палец человека.
– Это абсурдное заявление, – возразил генерал Доннелли. – Любая система искусственного интеллекта, которую мы развернем, будет находиться под полным контролем человека.
– Не стоит так думать, – покачала головой программистка. – Вы не сталкивались с Дороти.
– Доктор Шепард, подобное предложение бывает раз в жизни. – Голос президента звучал раздраженно. – Избавьте нас от своей лекции. Достаточно сказать «да» или «нет». Найдется много других людей, в том числе из вашей группы в НАСА, которые будут рады работать для нас.
– Тогда считайте, что я просто сказала «нет». – Мелисса взяла свой портфель. – Всего доброго, мистер президент. До свидания, генерал Доннелли.
– Позвольте напомнить вам, что предложение, которое вы только что отвергли, строго секретное, – сказал ей вслед глава Соединенных Штатов.
Девушка остановилась, а затем резко повернулась. В голосе ее проступили умоляющие нотки:
– Мистер президент, я умоляю вас отказаться от этого пути. Это будет началом конца человеческой расы. Пожалуйста, задумайтесь!
– Благодарю вас, доктор Шепард, но я не нуждаюсь в ваших советах, как мне поступать в качестве верховного главнокомандующего.
Мисс Шепард повернулась и вышла. Форд посмотрел ей вслед.
Президент, нахмурившись, повернулся к Локвуду:
– Вы не говорили мне, что она одержима антивоенными идеями.
– Я сам не знал, мистер президент, – стал оправдываться тот. – Мои искренние извинения.
Глава США повернулся к Уайману:
– А вы что скажете?
Детектив встал:
– Боюсь, что, видев Дороти в действии, я вынужден согласиться с доктором Шепард. Снабдив искусственный интеллект оружием, люди сделают последний шаг к собственному уничтожению. Это очень опасно.
– Но китайцы уже работают над этим, – сказал президент.
– В таком случае – да
64
Уайман нагнал Мелиссу в коридоре. Она быстро шла, стуча каблуками по твердому полу, и ее растрепанные белокурые волосы развевались за спиной.
– Мне очень жаль, – сказал сыщик. – Это предложение – подлый прием.
Девушка остановилась. Лицо у нее было бледным, губы крепко сжаты.
– Мне тоже, – ответила она. – Их нужно остановить.
Форд взял ее под руку:
– Мы ничего не можем сделать. Это не в нашей власти.
– Я предам все огласке. Позвоню в «Нью-Йорк таймс».
– Бесполезно. Вы же слышали о китайцах! Началась новая гонка вооружений.
Шепард покачала головой:
– Если они сделают умное оружие – это конец. Либо мы уничтожим себя сами, либо машины возьмут верх и уничтожат нас. HAL против «Звездного крейсера Галактика».
– Насколько сложно будет создать новую программу, похожую на Дороти? – спросил сыщик.
Мелисса замялась:
– Дело в том, что я использовала один маленький программистский трюк. Это мой секрет. Без него у них ничего не выйдет.
– Можно узнать, что это за трюк? – помолчав, спросил Форд.
Изобретательница долго смотрела на него, но в конце концов ответила:
– Сама не знаю почему, но вам я это расскажу. Наверное, потому что знаю – вам можно доверять.
– Спасибо.
– Этот трюк… сон.
– Сон?
– Любой организм, имеющий нервную систему, нуждается в отдыхе. Круглому червю с тремя сотнями нейронов необходим сон. Улитка с десятью тысячами нейронов не может обходиться без сна. Человек с сотней миллиардов нейронов должен спать. Почему?
– Не знаю.
– На самом деле никто точно не знает. Но сон – это одна из основ жизни. Любая нейронная сеть, независимо от сложности, время от времени должна засыпать. В этом-то и состоит трюк. Выяснилось, что сложной программе искусственного интеллекта тоже необходим такой отдых. Дороти была самомодифицирующейся, но ей требовался период сна, во время которого совершенствовался и деструктурировался ее код. Во время самомодификации она спала. Такого странного побочного эффекта я сама не ожидала, и он оказался решающим. Сон и сновидения – это ключ к работе любой самомодифицирующейся программы искусственного интеллекта. В противном случае она деградирует.
– Забавно, но вполне логично.
Мелисса покачала головой:
– Рано или поздно кто-нибудь из программистов это поймет – и тогда человеческой расе конец. Особенно с таким президентом.
На автостоянке Мелисса Шепард пожала руку Форду и направилась к машине. Взявшись за ручку дверцы, она замерла и помимо своей воли оглянулась на детектива, который шел к своему автомобилю. Странный парень, высокий и немного неуклюжий, с не особенно привлекательным лицом, физически сильный – но главное, непонятный. Интересно, подумала девушка, увидятся ли они снова? Идея показалась ей не такой уж плохой.