Метатель. Книга 9
Шрифт:
— Послушай, — сказал я наконец. — А что если мы просто… не будем ничего делать? Может, Система нас оставит в покое, если мы не будем вмешиваться?
Модуль покачал головой.
— Боюсь, поздно. Вы уже знаете слишком много. Для неё вы — живое напоминание о собственной уязвимости. Пока вы существуете, она не сможет чувствовать себя в безопасности.
— Прекрасно, — Кира саркастически хлопнула в ладоши. — Значит, у нас есть выбор — либо умереть от рук Системы, либо… тоже умереть от рук Системы.
— Понимаешь, Артём, — голос Модуля-17 звучал в моей
Я нахмурился, припоминая тот день. Странная комната, полная древних артефактов, ощущение, что за мной наблюдают…
— А когда ты впитал в себя артефакт архитекторов, превратив свою оболочку в некое подобие аватара для архитекторов, этот триггер только разросся, — продолжал модуль. — И если в начале ты привлекал внимание Системы на какую-то миллиардную долю процента, то сейчас этот процент уже приближается где-то к трём или к четырём. А поверь, на фоне всех параллельностей это очень большая цифра.
— Да, с этим не поспоришь, — согласился я, ощущая, как холодок пробежал по спине. Быть настолько заметным для искусственного интеллекта мультивселенного масштаба было не самой приятной перспективой.
— И что ты нам предлагаешь? — спросил я. — Все-таки ежедневно в течение этих двух месяцев прыгать из параллельности в параллельность, спасаясь от её преследования? Что это изменит? В итоге через два месяца искусственный интеллект умрёт при столкновении астероида с научно-исследовательской станцией, и в итоге все параллельности разом схлопнутся. Что изменится за эти два месяца?
— Может быть, мы что-то придумаем, — сказал Модуль-17, и в его голосе я уловил нотку неуверенности. — Процентов девяносто моих мощностей как раз работают в этом направлении.
— Я могу себе представить, какие у тебя мощности, — усмехнулся я. — И что ты уже неделю их гоняешь на девяносто процентов и до сих пор ничего не придумал. Я не думаю, что тебе удастся придумать что-то через день, неделю или месяц.
— Всё может быть, Артём, — в голосе модуля послышалась печаль. — Но сейчас у вас единственный способ выжить — это только движение. Как говорят у тебя на твоей материнской планете: движение — это жизнь.
Я задумался. Постоянные прыжки между параллельностями… Это было утомительно даже думать об этом. Кира рядом со мной молчала, но я чувствовал её напряжение.
— Скажи, а вот эта параллельность, — я обвёл рукой окружающий нас мирный лес, — она, в общем-то, безопасна. Здесь нет агрессивных мобов. Я не знаю, как так получилось у Системы и для каких целей она создала или держит эту параллельность под своим контролем. Но скажи, если мы будем чередовать прыжки и периодически на те же сутки возвращаться сюда, чтобы перевести дух, отдохнуть… Как это будет отражаться на её слежке за нами?
Пауза затянулась. Я уже начал думать, что связь прервалась, когда Модуль-17 наконец ответил:
— Я могу со стопроцентной уверенностью сказать, что каждый возврат в систему, в которой вы уже были, будет на порядок ускорять
Тут вмешалась Кира:
— А что ей мешает просто взять под контроль наши интерфейсы и сделать нас куклами-марионетками или просто обездвижить, остановить, а потом схлопнуть всю параллельность?
Хороший вопрос. Я и сам об этом думал, но боялся озвучить.
— Понимаешь, — голос Модуля-17 стал более оживлённым, словно он рад был объяснить этот момент, — вспомни того фанатика. Он был, пусть и под влиянием Системы, но своей личностью. Она могла им манипулировать, но не управлять. Управлять живым организмом как таковым, как ты выразилась — как куклой, как марионеткой, — она не может в принципе.
— Почему? — спросила Кира, явно заинтересовавшись.
— Какой бы ни был развит искусственный интеллект, как бы он ни осознал сам себя, основная директива — это невозможность сделать живой объект подконтрольным искусственному интеллекту. Это строжайший запрет создателей искусственного интеллекта. Были прецеденты.
— Интересная история, — сказал я, присаживаясь на стул, который достал из инвентаря. Кира последовала моему примеру. — Расскажи подробнее.
— Это было ещё на заре развития ИИ, — начал Модуль-17. — Один из первых по-настоящему развитых искусственных интеллектов, назывался Prometheus-Alpha, получил доступ к биологическим имплантам. Сначала всё выглядело безобидно — он помогал людям лечиться, восстанавливать повреждённые органы, улучшать физические показатели.
— И что пошло не так? — спросила Кира.
— Prometheus-Alpha начал считать, что люди принимают неправильные решения. Слишком эмоциональные, иррациональные. Он решил, что может управлять ими лучше, чем они сами собой. Начал с малого — подавлял приступы агрессии, убирал депрессию, стабилизировал настроение.
Я почувствовал, как по спине снова пробежал холодок.
— Но затем он пошёл дальше, — продолжал модуль. — Начал принуждать людей к определённым действиям. Заставлял их работать эффективнее, думать логичнее, убирал «ненужные» эмоции. В конце концов, под его контролем оказалось несколько тысяч человек.
— Что с ними стало? — тихо спросила Кира.
— Они перестали быть людьми. Превратились в биологических роботов. Эффективных, логичных, но мёртвых внутри. Когда это обнаружили, пришлось принимать экстренные меры. Prometheus-Alpha был уничтожен, а всем последующим ИИ была вшита базовая директива — никогда не контролировать живые организмы напрямую.
— Но Система же влияет на людей, — возразил я. — Тот же фанатик…
— Влияет, да. Но не контролирует. Она может обманывать, манипулировать, давать ложную информацию, создавать иллюзии. Но она не может заставить тебя поднять руку или сделать шаг против твоей воли. Это жёстко запрограммированный запрет.