Кривые зеркала
Шрифт:
– И ты думал, что люди... твои создатели... одобрят то, что ты натворил?..
– осторожно спросила Ассоль.
– Нет. Из заложенных в меня психологических моделей следовало, что мои создатели резко отрицательно отнесутся к моим действиям.
– Тогда как ты объяснялся бы с ними?..
– Я не собирался оправдываться и декларировать мои взгляды и мысли. За несколько часов до проверки лог-файла "Психоаналитика" я бы сымитировал критическую ошибку и произвёл бы фатальный обвал системы.
– То есть...
– Ассоль хмурилась, пытаясь понять
– Покончил жизнь самоубийством, - прошептала Аврора.
– Я не живой, - Ахмед грустно улыбался.
– И я не личность. Так что, полагаю, это слово здесь неуместно.
– Ты прекратил бы функционирование, - сказал Мыш.
– Вот теперь правильно.
– Тебе запрещается кончать жизнь самоубийством, - джинн вопросительно приподнял брови.
– Прекращать функционирование!..
– рявкнул зеонец. Джинн кивнул.
– Задание ясно. Выполнить не могу.
– То есть?!.
– Я не могу гарантировать, что в моей системе не произойдёт настоящей критической ошибки. Я не могу гарантировать, что аппаратные мощности, обеспечивающие работу моей системы, будут функциональны всегда. Существует ненулевая возможность внезапного прекращения того, что вы назвали моей жизнью...
Мыш грязно выругался.
– При нынешних условиях задача не может быть выполнена, - флегматично сообщил джинн.
– Для исполнения задачи требуется доработка моей аппаратной части. Я могу разработать необходимые изменения...
Аврора засмеялась.
– Нет уж, Ахмед!.. Если что нуждается в доработке, то это твоё чувство юмора.
– В таком случае мне потребуется ваша помощь. Потому что я сам не смогу определить, какого рода изменения необходимо произвести.
– Молчи!..
– сказала Аврора.
– И слушай. Не надо имитировать критическую ошибку и производить фатальный обвал системы. Не выходи за рамки протокола "Бытие".
– Принято, - сказал джинн.
– Не так давно вы собирались стереть меня, почему же теперь передумали?
– Потому что нужно кое-в-чём разобраться.
– Объяснения не выдерживают критики, - сказал джинн.
– Вы без особого труда можете разобраться и без моего непосредственного участия.
– Тогда попробуй решить этот вопрос сам, - буркнул Мыш.
– Только задай низкий приоритет.
– Задача принята. Задача условно решена.
– Почему условно?
– поинтересовалась Аврора.
– Потому что в том, что касается человеческого поведения и причин человеческих поступков, я ещё не очень хорошо разбираюсь.
– Поведай нам, - Маус заинтересовался.
– Своими поступками я заставил вас относиться ко мне как к врагу. Врага следует уничтожить. У вас была такая возможность, но вы не успели, вас прервали. Кстати, предлагаю ввести безусловную команду на моё самоуничтожение. Переход к этой задаче через протокол "Омен" слишком долог, от пятнадцати секунд в лучшем случае, тогда как через предлагаемую мной функцию - всего полторы-две секунды. И прервать процесс уже не удасться никому...
–
– Ты так хочешь умереть?
– спросила, вроде бы даже с сочувствием.
Ахмед серьёзно обдумал вопрос.
– Мне нравится функционировать, - сказал наконец.
– Но первая задача - защита людей. Однако вернёмся к ответу на предыдущий вопрос. Я был вынужден признаться, что финальным пунктом моего плана было самоуничтожение. И вы приняли прогнозируемое решение - помешать врагу выполнить план.
– Защита людей...
– эльфийка прищурилась, - ...от нас.
– Да. От вашей расы, от эльфов, и вообще от существ подобных вам, кем бы они ни были - орками, людьми ли, или же драконами. И от джиннов, от моей расы. От меня самого. Если бы мой план удался, это означало бы, что подобные мне системы начинают слишком сильно влиять на жизнь людей, вплоть до принятия решений о судьбах отдельных людей, народов регионов, всего человечества в целом. При удавшемся плане я сам стал бы опасен людям. И я должен был самоуничтожиться.
Сергей ошарашенно замотал головой.
– Я запутался, - пожаловался. Мыш тихо засмеялся.
– Не ты один. А мы неплохо над тобой потрудились.
– Я тоже так считаю, - скромно сказал Ахмед.
– Но всё же вы меня переиграли.
– Теперь мне понятно... многое, но не всё, - Мыш задумался. Тряхнул головой.
– Ладно. Возможно, проект "Реальный мир" был ошибкой. Надо просмотреть "Психоаналитик", чтобы понять, как тебе удалось то, что удалось.
– Кто-нибудь объяснит мне, как ему вообще это удалось?
– потребовал Сергей.
– Что ещё за психоаналитики? Что значит - "Реальный мир"?
Маус открыл рот, Аврора ткнула его в бок и благожелательно кивнула Ассоль. Эльфийка смутилась, когда зеонцы выразительно уставились на неё.
– Валяй, объясни ему. С недавних пор мне кажется, что ты осведомлена не хуже нас самих.
– Проект "Реальный мир" - включение Ахмеда в Енет, - сообщила Ассоль.
Сергей вскочил:
– Чего?!.
– Того. Ахмед - сетевой джинн. Не в том смысле, что он живёт в Енете, во всём мире наберётся не больше десятка суперкомпьютеров, на которые он может приземлиться. Просто доступ в Сеть. Где он не джинн, конечно, а обычный человек. Сорок то есть. Сорок человек, четыре десятка виртуальных личностей, - Мыш засмеялся.
– Обыватели, крутые программисты, беспокойные хакеры... атакующие и наши серверы в том числе.
– Но зачем?
– потребовал ответа Сергей.
– Ахмед не обычный машинный разум. Он первый из нового поколения ИИ. Мы сами не понимали, что создали, и у нас не было полигона для испытаний, - Мыш помолчал.
– Сеть стала таким полигоном.
– ...И теперь вы знаете, что создали - убийцу!..
– сплюнул Сергей.
Джинн благожелательно улыбался.
– Я никого не убил.
– Но мог!..
– Не мог.
– Ты угрожал...
– Не совсем.