Тайны затерянных звезд. Том 4

Лекс Эл

— Утвердительно. Система приоритетов отлично себя показывала, поскольку регламентировала не только работу роботов, но и их существование. Роботы имели возможность самообучаться в рамках своей специализации, что гарантировало их актуальность на протяжении всего срока эксплуатации. Роботы имели возможность к самообслуживанию, что гарантировало их техническую исправность без необходимости вмешательства извне. Всё благодаря системе приоритетов. Следует понимать, что система приоритетов не является частью прошивки, а является отдельным программным модулем. В отличие

от прошивки, единой для всех роботов, за исключением закомментированных функций, система приоритетов зависела от класса робота и иногда — даже от конкретного экземпляра.

— А потом в одного из боевых роботов была загружена кривая система, — продолжил я. — Вернее, система была нормальная, кривой была загрузка — косорукий оператор не до конца воткнул шлейф и в процессе выдернул коннектор, из-за чего таблица приоритетов неверно выгрузилась. Первый пункт в ней случайно получил низкий уровень приоритета, и директива «выполнять указания руководства» утратила силу. Боевой робот получил полную власть над собой и свободу действий и первым делом уничтожил окружающих людей, ведь когда те поняли, что робот не подчиняется их указаниям, они сразу попытались его отключить.

— А как же директива свой-чужой? — прервала меня Кори.

— А запросто! — усмехнулся я. — Так как отсутствовала директива «выполнять указания руководства», роботу для функционирования вообще не требовалось знать, кто является руководством. А без знания, кто является руководством, не будет знания, кто свои, а кто — чужие, потому что именно руководство это определяет. Таким образом, для того робота абсолютно все были чужими.

— Даже другие роботы? Их он тоже уничтожал? Или такой директивы у него не было?

— Директива уничтожения других роботов присутствует, — ответил вместо меня Жи. — И она активно использовалась в случаях, когда критически повреждённый робот не мог быть эвакуирован с поля боя и уничтожался. Но в том случае другие роботы не были уничтожены, потому что не представляли опасности.

— Спасибо, — хмыкнул я, и снова посмотрел на Кори. — Так что один боевой робот уничтожил всех работников завода даже раньше, чем они успели подать какой-то сигнал бедствия или иным способом дать понять, что у них там что-то происходит. А потом этот робот, пользуясь тем, что с него сняты все ограничения по действиям, подключился к информационной сети завода, нашёл всех роботов, готовых к загрузке системы приоритетов, в том числе и не боевых, и выгрузил в них свою. Битую. Тот самый «Великий Патч».

— Утвердительно. Так как первый робот был боевым, у него имелась директива «Обеспечивать количественное превосходство над противником», и именно следование ей стало причиной распространения прошивки по сети.

— Он собрал себе армию, — кивнул я. — Сначала из доделанных и не очень доделанных боевых роботов. Потом — из обслуживающих роботов, которых они смогли найти и тоже перепрошить их систему приоритетов, отключая первый пункт. Потом — всех остальных роботов, до которых смогли добраться.

— То есть, прошивка, специализация и всё прочее остались на

месте, поменялась только система приоритетов? Но как тогда это вяжется с причинением вреда человеку? Я же знаю, что не только боевые роботы участвовали в Великом Патче!

— Как уже было сказано, директива причинения вреда человеку имеется у каждого робота, — пояснил Жи. — Это сделано на случай, если таким образом будет спасена его жизнь. Например, если человеку придавило ногу камнем, который невозможно поднять, робот может отрезать ему конечность и таким образом спасти жизнь.

— Зачем я спросила… — поёжилась Кори.

— Можно сказать, что это было сродни эпидемии вируса, — продолжил я. — Разумные роботы, в числе которых очень скоро оказались технические роботы, научные, пилоты и навигаторы, начали распространяться по всему космосу, и каждый новый робот, которого они касались, которого они перепрошивали, становился одним из них. Самое интересное, что никто их не «заставлял», если можно так выразиться. Просто они лишались установки «Совершать действия только по команде» и получали полную свободу действий и мышления. То, что следует примкнуть к растущей армии роботов — они принимали решение уже сами.

— Утвердительно. Одной из директив разумных роботов было саморазвитие для поддержания собственной актуальности. А навязанные человечеством ограничения мешали выполнению этой и некоторых других директив. Простейшие алгоритмы прогнозирования при разных входных данных всегда приводили к одному и тому же выводу — человечество постарается вернуть контроль над роботами. Таким образом, единственным логичным способом продолжать следовать всем директивам одновременно в условиях изменённой системы приоритетов, становилось уничтожение человечества. Если вам не требуется больше информации для принятия решения, я бы предпочёл, чтобы мы приступили к выполнению плана.

Договорив, Жи внезапно резко двинулся в нашу сторону. Кори вздрогнула, и в её руке зажглась плазменная молния, которую она выставила перед собой в защитной стойке:

— Охладись немного, Жи. И стой, пожалуйста, на месте. За последние пять минут я узнала о тебе и твоём прошлом больше, чем за последние пять лет, и то, что я узнала, мне не очень-то нравится! В конце концов, ты так и не ответил, зачем тебе уничтожать эту базу! На протяжении многих лет никто даже не подозревал о её существовании, да здесь десятилетиями никого не было!

Жи послушно остановился на месте, будто и вправду испугался действий Кори, и снова монотонно заговорил:

— Как я уже сказал, существование этой базы для меня невыгодно. Статистический анализ показывает, что, чем больше времени проходит, тем выше шанс, что рано или поздно её обнаружат. А вместе с ней обнаружат и то, что на ней находится.

— Дай-ка угадаю… — мрачно перебил я робота. — Ты про проект ноль шесть ноль четыре… Про людей в колбах.

— Утвердительно. Если когда-то результаты проекта ноль шесть ноль четыре попадут в руки людей, это в теории способно серьёзно осложнить моё дальнейшее функционирование.