Крио Ген
Шрифт:
— По нашим расчетам? — Белые кулаки старика так сжались, что стали еще белее. — Я уже это слышал.
Будто не заметив его ремарки, офицер продолжал:
— Вывести из первого криосна так никого и не получилось. Из нового криосна вышли девяносто восемь процентов испытуемых.
— Хоть что-то.
— Эксперимент NG2.1 подошел к концу. Подопытный допрошен, взято официальное разрешение, и теперь у нас развязаны руки. После перезапуска они не будут блокировать друг друга. Нам же ИИ позволит сделать огромный скачок в исследованиях.
— Да, я знаю. Присутствовал на допросе.
Офицер удивленно приподнял одну короткую бровь.
— Крио Ген выжил вопреки всему. И это при таких-то повреждениях мозга. Кто мог это предвидеть, когда мы начинали эксперимент? — В свойственной ему манере, он нахмурил брови и задумался. — И просил ведь не быть с ним таким жестоким, он этого не заслужил. Или на то были причины?
Офицер
— Судя по техническим отчетам, объект начинал догадываться, что им манипулируют и ему лгут. Группа допроса решила действовать агрессивно, дабы боль утраты затмила вопросы аналитического характера. Если бы объект догадался, что мы не те, за кого себя выдаем, миссия была бы провалена. Также ситуацию усложнила девушка. Закон о коррекции долговременной памяти запрещает нам проводить повторную манипуляцию с памятью объекта.
Старик удобнее устроился в кресле и уже совсем другим голосом задумчиво произнес:
— Да, она удивила меня. Не могла же эта связь сохраниться за пределами памяти. Это действительно странная случайность. Но эта случайность в итоге нам сыграла на руку.
— Со слов Перцептрона, это не случайность.
Старик удивленно крякнул.
— И действительно. Как может быть случайностью, что в почти двухсотмиллионном мегаполисе они опять нашли друг друга. — Он замолчал, а затем мягко спросил: — Гроу, ты представляешь, как мне сложно принимать такие решения?
Офицер знал, что старик любил поболтать, и часто столь формальный доклад под конец перерастал в такую неформальную беседу. Наверно, за это Гроу Лон и любил так эти доклады. Возможно, за это главу корпорации любили все ее служащие. За человечность и мудрость.
— Уверен, что нет, — все так же четко произнес офицер.
— М-м, конечно. Наш мир так сложен и многогранен, что каждое новое решение дается мне все тяжелее и тяжелее. Было бы так просто, если бы все было белое и черное, тогда я с уверенностью принимал каждое решение. Но прошло столько лет, а как старик Айзек не был уверен в своем решении, так и я колеблюсь, как лист на ветру, хоть это вовсе не входит в мои обязанности. Принцип наименьшего зла — так его называют. Но как может быть легок принцип, в котором и так заложено зло изначально, пусть оно и малое? Зло всегда будет оставаться злом. Сегодня малое, а завтра нет.
Он остановился и тяжело откашлялся, затем отпил из стакана воды и продолжил:
— Ведь возьмем ситуацию с NG2.1. Ты заметил, как много моральных противоречий в этом эксперименте?
Офицер все так же стоял на месте. Он знал, что вопрос риторический, поэтому можно промолчать и просто ждать, когда старик продолжит свой монолог.
— Ведь с самого начала и до конца они преследуют меня на каждом шагу. Вдумайся только. Мы обманываем Крио Гена — чистейшей души человека, обманом берем у него подписи, чтобы обмануть законы, к которым сами же, по сути, приложили руку. Мы хотим сделать из него гибрид человека — ИИ, потому что только так мы опять можем обойти проклятые законы Сингулярности. Мы манипулировали Крис, пользуясь ее любовью к отцу, чтобы получить нужную информацию и выставить предательницей перед Крио. Мы пожертвовали жизнью Крио Гена, его любовью к Крис Лав, стерли им память, и все это для того, чтобы спасти человечество. Выбор вроде очевиден. Вот оно — наименьшее зло! — Он вздохнул. — Безумие! Мы разъединили две души, которые нашли друг друга вопреки всему, а мы опять мешаем им. Потому что так надо. Потому что это наш единственный шанс спастись. — Старик резко окончил фразу и задумался. — Кстати о законах, Гроу. Вот ты, например, знаешь мою фамилию?
Офицер отрицательно помотал головой. Такая резкая смена темы его удивила.
— Нет, сэр.
— Ха! Я так и думал. Наверно, никого и не осталось, кто помнит ее. Но история действительно интересная.
На его лице появилась улыбка, а в голосе зазвучали ностальгические нотки.
— Это было очень давно. Я тогда был еще достаточно молод, но состоятелен. Уже тогда наше общество погрязло в хитросплетениях законодательства. Законы порой были настолько идиотские, что их можно было рассказывать как анекдот в кругу старых друзей. Я понял: пора что-то менять, но меня никто слушал. Поэтому я решил создать прецедент, и, благо, судьба сама мне подбросила такую возможность. А дело все в том, что общество того времени было не готово к радикальным изменениям, и за мое рвение к технологическому прогрессу меня многие сильно критиковали. Но один за меня взялся очень плотно. Поливая меня грязью в прессе и публично, он все-таки вывел меня из себя. Сначала я пытался быть выше этого всего и просто искал причину, почему он так усердно мне гадит, что плохого я ему сделал? Но не найдя видимых причин, я решил взяться за мерзавца. Последней каплей стал факт, что он уже начал упоминать членов моей
Он рассмеялся.
— Да, небольшой штраф и судебный иск. Но этого было достаточно, чтобы мою фамилию, в конце концов, забыли абсолютно все. Хотя в это сложно поверить, но я почти уверен в этом. — Он закашлялся и сказал: — Вот тебе и законы! Время идет, а мы все так же ищем, как их обойти, хоть они нами же и написаны. Закон, разрешающий слежку только по контракту, нам помог действовать параллельно с Перцептроном, продолжая наш эксперимент. И все это для того, чтобы была возможность обойти закон о запрете ИИ. Когда-то мы его принимали, чтобы предостеречь человечество от возможной угрозы. Кто бы мог подумать, что ИИ станет единственным нашим спасением.
Стоящий перед ним офицер уже совсем забыл про холод. На этот раз тема разговора была действительно ему интересна, хоть старик изъяснялся очень витиевато и непонятно даже для него. Поэтому, недолго думая, Гроу Лон решил все-таки спросить:
— А почему Перцептрон не помогает нам?
— В этом и парадокс, Гроу. Понимаешь, Перцептрон — очень сложный организм, его ядро было создано из карт лучших научных умов, из самых сливок. Но принимает он решения на основании карт населения Города. В теории это идеальная комбинация, но на практике она дала сбой. Заложенные в ядро протоколы не дают право посвящать население в некоторые подробности, мы опасались, что это может привести к дестабилизации обстановки. Контролируя все новостные потоки, перемалывая всю информацию и пропуская ее сквозь себя, Перцептрон никогда не допустит утечки сведений, что планета погибает. Ведь это приведет к панике. Именно поэтому теперь нам приходится действовать скрытно, чтобы, не дай Бог, Перцептрон не посчитал, что наши действия могут навредить его идеальному миропорядку. Благо законы и возможности нашей корпорации нам позволяют это. А в это время все текущие решения формируются исходя из текущих карт населения. Ядро — это правила, текущие карты — это действия. Таким образом, система получилась с нарушенной обратной связью. Решения принимаются исходя из той информации, что разрешено доносить, но полной картины-то нет. Круг замкнулся. Создатели считали, что с такой погрешностью система вполне жизнеспособна, но они не учли один факт. Что некоторое незнание может стать фатальным. Население не знает о проблеме, поэтому Перцептрон ничего не делает. Ему просто все равно. И убегающие от реального мира люди — нехороший знак. Он печален, потому что в глубине души печальны его жители. И мы никак уже не сможем совладать с этой апатией Великой Нейронной Сети. Она училась этому у людей годами.
— Не все ведь печальны. Мы не такие…
— Это проблема большинства, Гроу. Хотя уверен, и ты временами печалишься, ты же человек. И эти эмоции чаще куда глубже, чем позитивные, верно? Такова человеческая природа, мы нуждаемся в отрицательных эмоциях, нам нужна эта амплитуда, чтобы сполна почувствовать себя счастливыми, чтобы эти эмоции были яркими, а не обыденными и привычными. Но как машине понять то, что мы сами понять полностью не можем?
Офицер на несколько секунд задумался. Он понимал, что старик прав, хотя осмыслить сказанное было непросто, но ему очень хотелось углубиться в эту тему и он задал еще один вопрос.
— Проблема большинства? Но выходит, что Перцептрон не вытягивает ситуацию с эмоциональным фоном Города в лучшую сторону, а наоборот ее усугубляет. Сколько же нужно счастливых людей, чтобы развернуть это русло печали?
— Как ни странно, но даже меньшинство может изменить ситуацию. Но боюсь, что в случае с Перцептроном — процесс уже необратим.
— Неужели его нельзя перепрограммировать?
— Гроу, если бы все так было просто… Это такая же проблема, как написать все законы с нуля, а не латать годами старое законодательство. Когда-то это было возможно, мы думали, что сможем предусмотреть все, придумав Законы Сингулярности. А в итоге параноидально пытались залатать то, что сделали имплантами, лишив человечество понятия «приватность». — Он глубоко вдохнул. — Есть Протокол 0, но боюсь, что он неосуществим, т. к. закончится крахом всего. Слишком многое уже завязано на Великую Нейронную сеть.