Мечты роботов(Сборник)
Шрифт:
Предположим, у нас имеется два робота. Один из них по неосторожности, из-за отсутствия необходимых знаний или в силу определенных обстоятельств ведет себя таким образом (неосознанно), что его действия могут причинить вред человеку, — и предположим, что второй робот, обладающий более обширными знаниями или пониманием ситуации, это осознает. Разве Первый закон не требует от него, чтобы он остановил первого робота? Если нет другого пути, разве Первый закон не требует от него, чтобы он уничтожил первого робота без сожалений и колебаний?
Так,
Точно такая же ситуация возникает и когда мы вспомним о Втором законе, в котором говорится, что робот должен повиноваться приказам человека, если эти приказы не противоречат Первому закону.
Если один из двух роботов вследствие незнания или небрежности не выполняет приказ человека, второй должен либо выполнить команду сам, либо заставить первого робота это сделать.
Так, в одной из самых напряженных сцен в «Роботах и Империи» злодейка отдает роботу прямой приказ. Тот колеблется, потому что его выполнение может причинить вред героине. Возникает конфронтация между злодейкой, которая настаивает на выполнении своего приказа, и вторым роботом, пытающимся убедить первого в том, что героиня может пострадать. Здесь возникла ситуация, когда один робот пытается уговорить второго подчиниться Второму закону в его истинном звучании и противостоять человеку.
Однако самые серьезные проблемы, когда речь идет о взаимодействии роботов, возникают в связи с Третьим законом.
Третий закон утверждает, что робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму законам.
Но что, если речь идет о двух роботах? Озабочен ли каждый из них своим собственным существованием, что является буквальным пониманием закона? Или каждый робот испытывает необходимость помогать своим собратьям в ситуациях, когда речь идет об опасности для их существования?
Как я уже говорил, я не слишком много занимался этой проблемой, когда писал рассказы, в которых главным героем был один робот. (Иногда там появлялись и другие роботы, но они были второстепенными персонажами — всего лишь оруженосцами, если можно так выразиться.)
Однако сначала в «Роботах рассвета» (1983), а затем в сборнике «Роботы и Империя» я описал двух роботов, которые играли одинаково важную роль для повествования. Один из них — Р. Дэниэл Оливо, антропоморфный робот (которого не так просто отличить от человека), появлявшийся в «Стальных пещерах» (1954) и в его продолжении «Обнаженное солнце» (1957). Другой — Р. Жискар Ревентлов, который имеет более стандартную металлическую внешность. Оба робота обладают интеллектом, сходным по сложности с человеческим.
Именно они вступили в борьбу со
Доводы Дэниэла ослабляют приказы Василии, но в недостаточной степени. Жискар колеблется, но его невозможно заставить действовать.
Тем временем Василия решает, что Дэниэл слишком опасен: если он будет продолжать спорить, он может убедить Жискара в своей правоте. Тогда она приказывает собственным роботам отключить Дэниэла, а затем велит Дэниэлу не сопротивляться. Дэниэл обязан подчиниться, и роботы Василии принимаются за дело.
Именно в этот момент и «просыпается» Жискар. Четыре робота выведены из строя, а сама Василия погрузилась в сон. Позднее Дэниэл просит Жискара рассказать ему, что произошло.
Жискар говорит:
«Когда она приказала роботам разобрать тебя на составные части, друг Дэниэл, и продемонстрировала явное удовольствие от этой перспективы, твоя безопасность плюс концепция Нулевого закона перевесили действие Второго закона и вступили в противоречие с Первым. Комбинация Нулевого закона, психоистории, моей верности леди Глэдии и того, что ты попал в беду, заставила меня действовать».
Дэниэл заявляет, что его собственные нужды (поскольку он всего лишь робот) не должны были повлиять на действия Жискара. Тот с ним согласен, однако говорит:
«Странная вещь, друг Дэниэл. Я не знаю, как так получилось… В тот момент, когда роботы начали к тебе приближаться, а леди Василия не смогла скрыть ликования, схема моих позитронных дорожек реформировалась аномальным образом. На мгновение я подумал, что ты человек, и отреагировал соответствующим образом».
«Это было неправильно», — говорит Дэниэл.
«Я знаю, — отвечает Жискар. — Однако если такое случится снова, мне кажется, та же аномальная перемена произойдет опять».
Дэниэл понимает, что, если бы он оказался в подобной ситуации и опасность угрожала бы Жискару, он тоже встал бы на его защиту.
Иными словами, роботы достигли в своем развитии такой стадии, что перестали различать границу между роботами и людьми и научились считать друг друга «друзьями». И конечно, почувствовали необходимость защитить существование друг друга.