Протокол безопасности

Талова Татьяна

Ограничение на развитие ИИ было самым спорным среди свода запретов. До определенной поры машина могла учиться и познавать мир – это заметно облегчало интегрирование ИИ в системы кораблей или исследовательских баз. Запрет начинал действовать после рубежа, установленного восмурами. Как только ИИ начинал интересоваться психологией на уровне философских вопросов, срабатывал сигнал, и обучение прекращалось.

Некоторые выступали против этого запрета, но в обществе все равно царила идея о том, что чрезмерное углубление ИИ в размышления приведет к бунту машин.

–

Проводились эксперименты, – вспомнил Корби об этих самых «некоторых» противниках. – Когда восмуры пытались добиться снятия этого запрета. Я читал... Да и вы наверняка тоже, это самый популярный аргумент сторонников развития искусственных интеллектов.

В рамках проекта по сбору подписей в петицию о защите синтетической жизни восмуры на время показательно отключили запрет на самообучение. За год – срок порядочный для разума, перерабатывающего информацию с немыслимыми скоростями, – ни один из подопытных ИИ не проявил признаков агрессии. Но проект все равно провалился... по его завершению некоторые специалисты-восмуры не могли сдержать слез. По их словам, вновь подключенные запреты калечили живых существ.

– Мне кажется... – Корби нервно хихикнул. – Или мы только что подтвердили несостоятельность всего того радикального течения?

Пара глаз и пара окуляров уставилась на него. Тера выглядела разозленной, Фламма – тоже.

– Простите. Понятия не имел, что вы тоже...

Самого Корби ИИ никогда особенно не волновали – он с ними почти не контактировал.

– Все объяснимо, – спокойно произнес Руд, привлекая к себе внимание. Ящер не шевелился и смотрел на собственные руки. Медленно поднял голову, взглянул прямо на Теру. – Я знаю восмуров. И знаю людей. Тот проект... восмуров не назвать агрессивными или потенциально опасными. А Бондаренко и Хенрикс работали в исследовательской лаборатории, и этот интеллект их знал... По крайней мере, доктора Бондаренко. Что я могу сказать...

– У землян есть поговорка, – прервал Корби попытки раптора донести свою мысль. – Старая. «С кем поведешься – от того и наберешься». Актуальна как никогда.

– ИИ не могли научиться у восмуров ненависти. Не могли допустить возможность убийства кого-либо... А у людей – вполне.

– У рапторов – тоже! – выпалила Тера.

– У рапторов – тоже, – согласился Руд. – Тем более что исследовательский проект на Энцеладе финансировался моим народом... Но тогда у этого ИИ должна была быть серьезная причина для нападения. Вероятно, доктор Бондаренко и Хенрикс сделали что-то... недопустимое.

– То есть ты хочешь сказать, что...

– Давайте будем терпимее, – дипломатично вставил Корби. – Офицер, давайте допустим, что не все люди такие сволочи, какими вы их считаете, и решим, что при любом раскладе должна быть причина... – судя по лицам, ни на кого эти слова не произвели впечатления. Но Тера хотя бы не стала спорить. – И вернемся к бытовым вопросам. Так... кто мог снять запрет?

– Главный по проекту, – откликнулся Руд победно. – Кто-то из землян-ученых.

– Или координатор, – фыркнула Тера. – Из рапторов.

– Идиоты, – мрачно констатировал Фламма. – Мне вот кажется,

что из вас я тут один со своими сорока пятью процентами самый-самый человек. Я... я общался с ИИ. С разными, – под заинтересованными и подозрительными взглядами он явно смутился. – Ну, вы понимаете, я тут один сижу месяцами, я... – он на миг возвел окуляры к потолку. – Ох, это слишком личное... В общем, вы бы хоть поговорили с ним. Может, сам все расскажет.

Тера молча повернулась к панели.

– Утилита «Образ 1.1», – подсказал хакер и задумчиво уставился в спину Теры. – Так странно разрешать кому-то работать за твоим компьютером... И я до сих пор не понимаю, почему это делаю.

– Вы очень одиноки, – просветил Корби взломщика, пересаживаясь на свободный подлокотник. Кресло возмущенно скрипнуло, Фламма что-то неразборчиво пробормотал.

– Это единственная фраза, которую я понял полностью, – буркнул позабытый всеми Зэрц. – Но если уж понял, то скажу – не парься, заморыш, и не таких делали достойными членами команды...

– Я не собирался... А, пока ты молчал, было лучше.

– О! – радостно воскликнул Корби, следивший за действиями помощницы. – Какую визуализацию выбрать? «Мисс Земля 2998» или из топа «Мокрых маек Сутореджа 2987»?

– Вот! Я вспомнил, почему работаю один!

– Оригинальный образ «Соль-200», – решила Тера, запуская программу.

Руд спрыгнул со стола и подошел к панели, уже не заботясь о проводах. Зэрц последовал его примеру. Голограмма померцала, настраиваясь, а потом сформировалась в объемное изображение землянки. Лицо, проработанное до деталей – до длинных ресниц и тщательно прорисованных бровей, – можно было назвать «стандартно миловидным». Никаких отталкивающих черт, разумеется, но и никаких мелочей, за которые бы цеплялся взгляд. Как правило, при тесных контактах с ИИ работники стремились внести в визуализацию особенности – нечто, что подходило под их параметры привлекательности, – и эта усредненность облика синтетического разума «Соли-200» выдавала все еще действующие неполадки в программе.

– Последние настройки внешности я не восстанавливал, – пожал плечами Фламма, будто прочитав мысли гостей. – Ни к чему.

– Э-э... привет, – произнесла Тера.

Образ обвел присутствующих взглядом, очень по-человечески моргая и морща лоб, и остановился на девушке.

– Приветствую вас. Добрый... – она посмотрела вверх, будто что-то припоминая. – Доброй ночи. Могу заметить, что в целях повышения эффективности рабочего процесса ваш организм должен отдыхать. Биологически данное время суток лучше всего подходит для сна.

– Для убийства тоже, – заметил Руд, скрестив руки на груди. – «Ночью кошки серые», так ты говорила?

– Ночью все кошки серы, – автоматически поправила Тера.

– Фактически неверно, – отметил Корби.

– Это идиома, – важно поправил ИИ. – Благодарю за уточнение, некоторые из моих модулей памяти были повреждены...

– А некоторые запреты – сняты... Она меня игнорирует?

– Мои сенсоры в норме, – откликнулся ИИ и перевел взгляд на Руда. – Раптор. Контакт нежелателен.