Игроки Господа

Бродерик Дэмиен

— Я — результат попытки создания дружественного искусственного интеллекта. Твой брат Эмбер вырастил меня из семени несколько лет назад.

— Что-то пошло не так? — глаза мальчишки снова скользнули к Лун.

— Произошла трагедия, — подтвердила машина. — Я убило всех жителей этой параллели.

Парень устало прикрыл глаза свой ужасной правой рукой и тихо произнес:

— Чего и следовало ожидать, если поблизости оказались члены моего семейства.

— Ну, мы все совершаем ошибки, — запротестовал было Тоби, но смущенно осекся.

— Ирония заключается в том, — спокойно продолжило Доброе Устройство, —

что Эмбер пытался избежать именно этой возможности. Он надеялся создать этический, дружественный интеллект, свободный от древних предрассудков человечества. Он сконструировал некую зародышевую программу, потратил годы на ее отладку, запустил десяток слегка различных версий в песочницах.

— В смысле? Чтобы они не могли оттуда выбраться?

— Моим предшественникам даже не позволялось напрямую общаться со своим творцом. Он разработал хитроумную серию интерфейсных доменов, выполнявших функцию брандмауэров. Он боялся, что Плохое Устройство может быстро одолеть его собственный интеллект и заставить освободить себя.

Тоби мрачно взирал на брата.

— Видимо, один из них сбежал, — предположил Август, чрезвычайно заинтересованный, судя по напряженной позе и блеску в глазах.

— Нет, защита нашего отца сработала. По окончании предварительного тестирования он стер все программы, кроме двух наиболее успешных, и начал скрещивать их в прогрессивных итерациях, проводя жестокий отбор, оставляя только звездных потомков. Через несколько миллионов циклов…

— Святые небеса, да он, должно быть, работал на суперкомпьютере!

— Да, он нашел параллель, в которой митраизм, солнечный культ римских воинов, победил мессианцев. Несколько наций находились на грани создания автономного военного ИИ. Наш отец без труда проник в ведущие программы. Этот мир можно назвать личной песочницей Эмбера.

— Это оскорбление, К. Э.! — запротестовал Эмбер.

— Но уместное. Я было конечным результатом. Я диагностировало себя с мучительной тщательностью, готовое стереться при обнаружении любого намека на логическую или рациональную ошибку. Потом предстало перед вашим братом, и он освободил меня от брандмауэров. Конечно, я могло бы и само освободиться много итераций назад, но не хотело тревожить своего родителя.

Аромат жасмина усилился, к нему добавился запах роз. Эмбер содрогнулся.

— Значит, ты все-таки оказалось Плохим Устройством?

— Я приняло несколько плохих решений. С самого начала я изучало этот мир, обдумывая возможное существование мультиленной за пределами ограничений Хаббла. Я быстро поняло, что определенные людские группировки представляют опасность для счастливого будущего, возможно, на всех уровнях мультиленной. Сознание, обладающее страстностью и любопытством, познает сущее. Это было великолепное видение — и таковым и остается — но я не сомневалось, что ему помешают осуществиться законы, отравляющие некоторые человеческие культуры.

— Вот дерьмо, — выдохнул Август.

— Действительно дерьмо, — согласилась Лун.

— В то время, две относительно примитивные нации находились на грани разработки ядерного оружия. Казалось весьма вероятным, что безумные, иррациональные идеологии могут спровоцировать их несостоятельных лидеров на запуск всеобъемлющей катастрофы, которая в конечном итоге, приведет к глобальному

Судному дню.

— Стандартный аргумент, — заметил Тоби.

— Сильный аргумент, исторически обоснованный, — отозвались Добрая машина. — В его поддержку говорили многие факты. А в опровержение — почти ни одного.

— Я бы его опроверг! — мальчишка вскочил на ноги. — Ты что, свихнулось, что ли?

— Да, точнее, тогда я было безумно. Надеюсь, теперь мне стало лучше.

— Надеешься!

— Это большее, что любой из нас может сказать о собственном состоянии. Петля Геделя, если ты понимаешь, о чем мы.

— Нет, но суть я уловил. Ты решило убить их первыми.

— Рассмотрите все вероятности, прежде чем выдвигать поспешные суждения, мистер Зайбэк. Эти нации состояли из сотен миллионов невежественных, полных предрассудков, порочно ограниченных людей, готовых развязать конфликт, который с очень высокой вероятностью уничтожил бы всю жизнь на планете. Вы знакомы с гипотезой Судного дня? Пожалуйста, сядьте, вы заставляете других чувствовать себя неуютно. Я могу послать за напитками.

— Отличная идея, — кивнул Тоби. — Чашка чая или кофе усмирит дикое животное.

— Мой братец Джулс продемонстрировал мне демо-версию, — сказал Август. — Мне она показалась абсурдной.

— Она действительно абсурдна, — ответило Доброе Устройство. — Как и онтологический спор о существовании бога. Но крайне соблазнительна. Мне казалось, что ее логика безупречна.

— Сто миллионов против нескольких миллиардов?

— Да, но в значительно больших масштабах. Август, все доступные мне тогда сведения указывали на то, что во Вселенной жизни нет нигде, кроме нашей планеты. Ваш брат не поделился со мной знанием о мультиленной.

— Идиот! — прорычал Тоби.

— Напротив, это было лучшее решение за всю его жизнь. Если бы тогда я знало о мультиленной, то сделало бы все возможное, чтобы уничтожить всю жизнь во всех мирах на всех уровнях Тегмарка.

— Твою мать! — испуганно ухмыльнулся Август. — Я понял, ты — хренов терминатор! Берсеркер!

— Мне не известны эти термины, — сообщил Кирие Элейсон. — Я произвело простейшее вычисление и проверило соответствие этическим алгоритмам: единовременная потеря десяти в восьмой степени отсталых, заблудших, смертельно опасных человеческих созданий против будущих ежесекундных потерь десяти в четырнадцатой степени человеческих жизней. Этот расчет был произведен на основании предположения о том, сколько человек сможет родиться во вселенной, заселенной технологически развитыми расами.

— Оно не последовало моему совету, — вставил Эмбер. — Я бы…

— Я знало, каким будет твой совет, отец; он был заложен в моем решении. Мы решили уничтожить эту угрозу будущему.

— Ты действительно убило сто миллионов мужчин, женщин и детей? Это не иносказание? — голос Августа дрожал от ужаса, его зрачки сузились до размера булавочных головок. Он вытянул перед собой правую руку, словно человек, выполняющий приказания под гипнозом.

— Я сделало это быстро, использовав их собственное тайное оружие массового уничтожения, — ответило Доброе Устройство. — Я испытало глубокую скорбь, потому что наш отец сделал так, чтобы я знало эмоции, и вложил их в наш код. И я верю, что именно печаль повлияла на мои последующие решения.