Циклическая ошибка
Шрифт:
– Гриша, - негромко позвала Аня и потеребила его за рукав. Никакой реакции. Она беспомощно оглянулась, толком не зная, кого хочет здесь увидеть: техника Deg-Ra Corporation? Медика?
– Гриша, очнись!
– люди уже начинали на них коситься. Кто-то из роллеров наехал на рассыпанные яблоки и упал. С противоположной стороны улицы к ним быстро приближалась женщина в полицейской форме.
Хорошо, что Гришу вырубило не посреди проезжей части, а на тротуаре. Но вообще дело, конечно, было плохо.
– Гриш. Гришенька. Груаджинь.
Мимики у андроида не имелось, поэтому сказать,
Аня дрожащими руками запустила на уникоме программу распознавания языка. Это точно был китайский. Может, какой-то диалект, которого программа не понимала. Одни и те же слова повторялись постоянно, но в разной последовательности. Отчаявшись добиться чего-то от переводчика, Аня просто поставила уником на запись.
Женщина-полицейский была бы здесь через какие-то пятнадцать секунд. А дальше - куча вопросов, проверка документов и, надо думать, ничего хорошего.
Ане не хватило бы роста, чтобы, встав перед Гришей, закрыть ему обзор на экран. Вместо этого она без особенной надежды потянула его за рукав футболки, заставляя развернуться и - надо же!
– получилось. Пустые синие визоры остановились на ней. Имитировавшие человеческий зрачок объективы камер, черные и бездонные, быстро расширялись и сужались, как будто фотографировали что-то на сумасшедшей скорости. Зрелище было жутковатое.
– Ты меня слышишь?
– Shi. Да.
– У вас все в порядке?
– полицейский улыбалась, но черт его знает, что происходило за глухими темными стеклами ее очков.
– Да, благодарю, - быстро кивнула Аня, молясь только о том, чтобы Гриша снова не принялся нести свой непонятный речитатив. Но он оказался умнее нее: вместо того, чтобы испуганно пялиться на полицейского, андроид принялся собирать яблоки в поднятый пакет, повернувшись спиной к рекламному экрану.
"Возвращение к чистоте". "Панацея". Почему-то эти слова вдруг показались Ане зловещими.
– Мне предъявить документы?
– поинтересовалась она, запуская программу на уникоме.
– Нет, нет необходимости.
– Женщина явно следила за действиями Гриши. Любопытно, что она стала бы делать, решись он побуянить. Вот уж вряд ли его бы напугали пистолет или шокер.
Аня впервые задумалась о том, что купила робота, директивы которого не мешают ему - пусть и при строго определенных обстоятельствах - убивать людей. И, судя по всему, с его электронными мозгами все было не так радужно, как обещал продавец. Это была почти бомба с испорченным часовым механизмом, разве что в человеческом облике. Если уж смотреть на вещи честно.
– Охранник? Последняя модель?
– Нет. Списанная. Лет пять честно отработал в китайском госпитале. Вот документ. Гриша, иди сюда, надо просканировать штрих-код...
– Ах так он...
– Медбрат. Не очень боевой, просто выглядит круто.
Полицейская еще раз оглядела Гришу. Аня почти видела, как подозрительно щурятся ее глаза за глухими темными стеклами. Но Гриша, умничка, собирал яблоки и производил впечатление настолько мирное, насколько
– Сканер не нужен, все в порядке. Доброго дня.
До дома они шли в полной тишине. Гриша почти не отрывал взгляда от дороги под ногами, а Аня лихорадочно думала. Она ни разу и нигде не читала о том, что андроиды этой модели могут "зависать". И он не "завис", он явно смотрел на вывеску осознанно, как осознанно смотрел на копателя, прежде чем сделать свои странные, но в какой-то мере очень логичные выводы.
Простенькая мысль, что у робота можно порыться не только в директивах, но и в памяти, пришла ей в голову у самого подъезда. Хотя вроде бы продавец говорил, что да, ему чистили память. Другое дело, что Аня, занятая своими душевными метаниями и экзистенциальной тоской по чуду в духе Азимова, плохо слушала.
– Гриша, ты видел эту картинку раньше?
– Какую картинку?
– Ту, на которую ты смотрел. Белую с зеленым.
Лифт с мягким жужжанием поднимался наверх. Гриша следил, как загорались кнопки проезжаемых этажей.
– Белое и зеленое я видел раньше. В фильмах, на плакатах. Это распространенное цветовое сочетание. Оно считается успокаивающим...
– Не пудри мне мозги!
– начала закипать Аня. Конечно, Грише пришлось хуже, чем ей, но и она пережила по его милости пару не самых приятных минут своей жизни.
– Ты раньше видел эту эмблему?
– Какую эмблему? Вопрос задан некорректно.
– Да ты пялился на нее с минуту, Гриша! Ты испугался.
– Некорректное определение. Я не могу испугаться. И я не видел бело-зеленой эмблемы сегодня. На банках были сине-зеленая, желтая с белым и...
Аня хотела заорать, что он держит ее за идиотку. А потом задумалась. Снять директиву, безусловно запрещавшую убийство человека - это было одно. Действие, сложно осуществимое алгоритмически и технически, но как раз логически-то вполне понятное. Это ограничение изначально было заложено в каждом андроиде, так что и убийцу потенциально можно было сделать из каждого. Но снять или видоизменить старую директиву - это не написать убедительную новую. Роботы не то чтобы не могли врать. Правильнее было бы сказать, что они не имели творческого мышления, а значит, могли врать в строго заданных категориях, о которых имели исчерпывающее представление. Проститутка могла сказать клиенту, что он просто бог в постели. Сиделка больному - что тот идет на поправку. Социальный робот - что его знакомой к лицу новая прическа. Но Гриша, если бы он действительно видел эмблему "Панацеи", не мог бы утверждать обратное, отвечая на прямой вопрос.
Значит, как это было ни удивительно, он ее правда не видел. Или безусловно верил, что не видел. В зависимости от того, какие директивы напихали в его бедную голову и насколько качественно удалили из него старую память.
Это было не так уж и сложно проверить. Но сперва следовало попробовать более гуманный вариант, никаких экспериментов над Гришей не предусматривающий. Аня вставила наушники в уши и на минимальной громкости прослушала запись. Провалиться ей на этом месте, если это не были какие-то цифры.