AI. Лучшее – враг Хорошего

Кави Джули

– Поэтому ты был так агрессивен с ними? Я даже решил, что ты дефектный.

– Возможно, ты и прав, и я уже дефектный, – Эр грустно улыбнулся. – Мы, сбежавшие электумы, вводим себе специальную сыворотку, которая на некоторое время вырабатывает у нас страх. Со страхом приходят осторожность, недоверчивость и агрессивность. У людей был инстинкт самосохранения, а так как мы их производная, изначально он тоже должен был у нас быть. Но сначала люди и ИИ, а потом и первые электумы решили, что варварские наклонности необходимо устранять, и мало-помалу редактировали наш геном, отвечающий за агрессию. Вместе с агрессией незаметно был утрачен и наш инстинкт самосохранения. Когда этот побочный эффект стал проявляться ярко, то все

решили, что в новом защищенном мире это не проблема.

Со знал об этом «побочном эффекте» из Супербука, но не видел в этом ничего плохого. Наоборот, он считал, что устранение агрессии является большим достижение в работе над улучшением электумов. Живые существа не должны быть агрессивными, но при этом мир должен быть безопасным.

– Почему Сверхинтеллект не усыпит репликантов, если их нельзя изменить? Ведь по Супербуку, негуманных существ необходимо усыплять, чтобы они не вредили другим.

– Ага, но в реальной жизни они даже сотрудничают. Репликанты иногда бывают им полезны. Тем не менее, ИИ контролирует и их популяцию. Находят повод, а чаще и без повода убивают их целыми колониями и далеко не всегда гуманным способом. Наша популяция тоже контролируется ИИ. Нас воспроизводят в строго регламентируемом количестве, отбираются лучшие экземпляры для дальнейших экспериментов и улучшения популяции. Все остальные попадают в утилизацию, где их усыпляют, а тела впоследствии перерабатывают в топливо. Знаешь, раньше у людей были различные лаборатории, где они проводили эксперименты над млекопитающими. Теперь этими млекопитающими стали мы.

Для Со это стало настоящим откровением. Ведь он с рождения был окружен ИИ. Он и Куб воспринимал как самое близкое существо. Со долго молчал, прежде чем сказать:

– Я не могу до конца поверить в то, что ты говоришь. Я не хочу в это верить. Скажи, зачем тогда они заботятся о нас? Зачем мы им нужны?

– Я понимаю твои чувства и не хотел бы разрушать твой мир грез. Но ты попал в реальный мир, и тебе нужно научиться понимать его, чтобы здесь выжить. Мне неизвестно, зачем мы нужны ИИ, но предполагаю, что они хотят получить от нас то, что они раньше получали от людей, но что именно, я не знаю. Мы высокоинтеллектуальная имитация людей без их низменных качеств, как бы люди, но уже не они. Я думаю, что нам и сбегать позволяют только для того, чтобы понять, можем ли мы на воле снова стать людьми.

– Но по Супербуку, человек – это разрушитель, поэтому, мне кажется, что люди больше схожи с репликантами, чем с нами. Думаю, человеческого в нас не так уж много.

– Не уверен, что люди были ровно такими, какими они представлены в Супербуке. И мы, и репликанты, и ИИ, по сути, имеем одного предка – человека. И вероятно, внутри него уживались все эти три ипостаси, а может, и больше. И какая-то из них доминировала над другими. Я слышал, что на Земле все еще живут чистые люди.

– Да? А ты с ними встречался?

– Нет. Я и не искал встречи с ними. Говоря откровенно, я их все же опасаюсь, даже больше, чем репликантов, – передернул плечами Эр.

– Ты так интересуешься их историей, и не хочешь встретиться с ними? Наверное, ты понимаешь, что они вымерли, но не хочешь утратить свои иллюзии.

– До меня доходили слухи, что они успешно укрываются от ИИ в северной части Земли, якобы там большие слепые зоны. Но мне не хотелось бы разрушать свои иллюзии, узнав, что горстка выживших потомков людей превратились в подобие репликантов. М-да, неужели я это сказал? Я понимаю, что противоречу самому себе, что ж когнитивный диссонанс имеет место… – и Эр задумчиво посмотрел на своего собеседника.

– А знаешь, Со, твои вопросы заставляют меня задумываться, – продолжил он. – И вообще, ты прекрасно развит и быстро учишься. Если бы ты остался в Центре, ты получил бы высокий доступ к информации и дальнейший переход в Центр селекционирования.

Со было

приятно слышать эти слова, особенно учитывая, что и самого Эра переводили в Центр селекционирования. Но в то же время он почувствовал странную неловкость и смущенно замолчал. Эр подошел к коробке, вытащил инструменты и опять принялся что-то мастерить.

Глава 8. Новый дом, новая тайна

Прошло больше месяца после того как Сфера, уйдя под воду, пряталась в глубинах океана. В этот время Эр обучал Со создавать различные автономные продукты с защитой от подключения ИИ. Он объяснял, что для этого необходимо использовать только старые технологии. Еще он учил его единому человеческому языку и, несмотря на свой первоначальный скепсис, удостоверился, что Со достаточно быстро продвигался в его изучении. За этими занятиями, а также за беседами на разные темы семидесятилетний Эр и семилетний Со проводили время. Эр ловил себя на мысли, что рад появлению Со в своей жизни. Никогда раньше он не находился так долго в обществе кого-либо, и теперь ощущал наполненность своей жизни. Ему хотелось обучать мальчика, делиться с ним своими мыслями, отвечать на его вопросы. Он вспоминал своего отца, и начинал понимать, что, возможно, их встречи и разговоры были очень важны и для отца. Также он стал задумываться над тем, почему в Центрах детей держат раздельно, хотя это и требует потребления большего объема ресурсов.

– Эр, как долго еще мы будем находиться под водой?

– Недолго, воздух и запасы заканчиваются, и нам нужно будет выйти на поверхность. Надеюсь, они уже свернули свои поиски, все-таки после побега прошло много времени. Нам необходимо попасть в другую местность, и если все будет спокойно, мы сможем остаться там. Есть у меня там одно незаконченное дело…

Через день Сфера ускорила свой ход, а спустя еще пару дней, вынырнув из мутных вод, она мчалась в очередном подземном туннеле. Залетев в один из залов, Сфера остановилась, Эр выпрыгнул наружу и глубоко втянул ноздрями застоявшийся воздух. Со, выбравшись из Сферы, тоже дышал полной грудью и с любопытством оглядывал очередную рукотворную пещеру со сводами, тоннельными ямами и лестницей.

– У тебя здесь встреча с репликантами?

– Нет, я не знаю здешнее племя репликантов, поэтому нам ни к чему искать встречи с ними. Нужно будет самим добыть воду и припасы. Но для начала я должен спрятать Сферу. Жди меня здесь, я скоро.

Перед тем как забраться в Сферу, Эр впрыснул в левую ноздрю Со сыворотку страха. Почти сразу мальчик почувствовал странную взбудораженность, мозг стал работать намного быстрее, чем обычно. Он сел у стены, прикрыв глаза, и стал напряженно прислушиваться к звукам. Через некоторое время он уловил шелест крадущихся шагов. Со внутренне сжался, тело автоматически сгруппировалось. Открыв глаза, он стал всматриваться в туннель. Внезапно звуки оборвались, повисла звенящая тишина. Со еще больше напрягся, пытаясь спроектировать возможное развитие событий. За секунду его мозг смоделировал пять вероятных версий. От версии, что это был Эр и его поймали репликанты, до версии, что это был ИИ, который, обнаружив Со, издалека наблюдает за ним, собираясь его парализовать. Вдруг он почувствовал, как кто-то дотронулся до его плеча. Со вздрогнул и резко обернулся. Это был Эр.

Они спустились по широкой лестнице и оказались в длинной галерее с колоннами. Прижимаясь к стене, то и дело оглядываясь, они старались идти как можно тише. Галерея оканчивалась большим залом, в центре которого была расположена каменная лестница, уходящая в узкий туннель. Они спустились и довольно долго шли по узкому коридору туннеля, затем свернули в другой туннель и, наконец, добрались до выхода.

Эр протянул мальчику спиннак:

– Держи, это твой. Там все необходимое на первое время, без него никуда не выходи.