"Фантастика 2024 -156". Компиляция. Книги 1-21
Шрифт:
Никто не смеет погасить твоего сердца!
ГЛАВА 13
Пальмер не зря все эти дни корпел в своем углу. Он представил достаточно краткое, но до скрупулезности подробное руководство по тестированию кибер-мозга, настолько сухо и пунктуально составленное, что инженер-инструктор «Роботеха» удавился бы от зависти. Каждая страница в его папке была насыщена тезисами и подразумевала возможность безграничного расширения (шеф же сказал — «коротко»). После полутора часов обстоятельных разъяснений (Пальмер был горд и рад до невозможности) у Хиллари зачесались все волосы на теле, появилось впечатление, что он речной песок жует, и он решил сделать перерыв, чтобы размять мозги в отвлеченной беседе.
— Так «кто» или «что»? — задал он сакраментальный вопрос. — Разумное мыслящее существо или сложная интеллектуальная машина? Если проводить аналогии, то надо вести сравнение
Пальмер был готов и к этому. Он пригладил свою залысину, что было у него знаком величайшего самодовольства и уверенности в своих знаниях.
— В настоящее время выделено 18 факторов, так называемых факторов Рейсса, которые на инстинктивном уровне определяют поведение человека. По мере возникновения и влияния на личность они распределяются на четыре группы. Биологическая группа — это пищевой, половой, исследовательско-ориентировочный инстинкты, а также двигательная активность и агрессия. Группа структуры личности — сюда входят честь, месть, независимость и власть. Группа комфорта — спокойствие, одобрение, порядок и экономия. И последнее, самое сложное — общественные отношения: общение, забота, семья, положение в обществе и идеализм, то есть потребность в создании абстрактных конструкций. Казалось бы, у киборгов им должны соответствовать Три Закона Роботехники, но это не совсем так. Законы гласят: Первый — робот не может допустить, чтобы его действие или бездействие причинило вред человеку, Второй — робот должен подчиняться человеку, если это не противоречит Первому Закону, и Третий — робот должен заботиться о самосохранении, если это не противоречит Первому и Второму Законам. Если привести Законы в соответствие с факторами Рейсса, получится неполная, дробная картина: совпадают только забота, подчинение, как элемент власти, и порядок с экономией, в чем люди признаются наименее охотно — а у роботов ввели в Третий закон. Вроде бы минимум сходства — но лишь на первый взгляд. Мозг киборга высшего класса устроен гораздо сложнее и функционирует на ином уровне, следовательно, либо не все Законы декларированы, либо в BIC сознательно упростили инструкцию для «чайников».
— Похоже на то, — Хиллари слушал с чрезвычайным любопытством. — Давай-ка начнем с азов и определений. Инстинкты — более или менее сложные, последовательные, генетически детерминированные действия, закрепленные в нервной системе; они представляют собой наименее пластичную форму поведения. Сложные формы инстинктивного поведения очень совершенны, но жестки и препятствуют развитию; при изменении условий они могут стать бессмысленными! Скажем, вложи в андроида-лакея алгоритм пилотирования — и он будет делать попытку за попыткой поднять ротоплан в воздух, не замечая, что у машины нет ни мотора, ни роторов. Аналоги инстинктов — программы, встроенные при сборке мозга и срабатывающие рефлекторно, тот же «ствол», который киборг контролировать не может: забота, подчинение, порядок. Чтобы киборг не отвлекался для помощи любому нищему и алкашу, вводится принцип приоритетности хозяина — его образ внедряется в мозг, и создается вертикаль «человек—киборг»; это — фактор власти. Третий Закон включает питание, двигательную активность и любознательность — кибер следит, чтобы наружний покров не потерял свойства, контракторы не затвердели от бездействия, и сканирует все незнакомое и подозрительное, чтобы не попасть в аварию. Так что инстинктов уже набирается больше, чем перечислено в методичке BIC!
Сев поудобней, Хиллари продолжил развивать концепцию:
— Мало этого: высшие киборги обучаются, то есть имеют вторую форму поведения — навыки, постепенно вырабатываемые в результате индивидуального опыта; навыки более пластичны. Не будем забывать, что при господстве одной формы поведения в известной степени представлены и другие; навыки формируются на основе инстинктов. Для адаптации имеет значение гибкость, изменчивость поведения в ответ на изменение внешних условий. Среда обитания киборгов — Город и люди; чтобы киберы максимально исполняли инстинкт заботы — у человека, кстати, очень хилый; общество его буквально навязывает людям, а у роботов он стоит на первом месте — усилены способности развития навыков уподобления и общения, чтобы киборги вписались в общество, в семью. Понятие «семья» в базовом словаре кибер-мозга намеренно увязано с понятием «хозяин». Фердинанд цеплялся именно за базовый словарь и менял смысл понятий, придавал им новое значение. Что получилось — мы видели, но понять можно, отыскивая не различия, а сходства.
Поиск аналогий вдохновлял его; теперь он осознал, что совет отца был умней, чем показалось вначале.
— Наш мозг состоит из древних центров и специализированной коры, где есть первичные и вторичные поля, отвечающие за выработку тончайших и сложнейших навыков. По тому же принципу устроен мозг
Чтобы тебя не поймал на слове въедливый вежливый Пальмер, надо свободно оперировать понятиями; Хиллари был готов к этой вроде бы случайной беседе.
— У человека за волю отвечают в мозгу третичные поля, на которых замыкаются все цепи; они самые большие и по объему занимают 30% площади коры. Воля! Вот что радикально отличает человека от животных — способность к длительному совершению сознательных, целевых актов, в том числе в абстрактной деятельности. Воля киборгов заключена в «стволе» — в «тройке» Законов, ими они и руководствуются, но, имея индивидуальность, навыки, интеллект, инстинкт заботы и общения, они могут и должны создавать группы, действующие целесообразно и автономно, поскольку опыт учит их тому, что наиболее эффективны согласованные и коллективные действия. Поэтому робосоциология — объективная реальность…
Хиллари говорил так, словно на словах оттачивал и проверял преамбулу к монографии. Речь шла под запись — потом он ее отредактирует, отбросит лишнее и впишет недостающее.
— …киборги сами, без помощи людей могут путем простого словесного контакта создавать и внедрять в своих группах аналоги ЦФ, основанные на авторитете самых опытных и быстро мыслящих киберов. Они создают их при общении. Фердинанд же навязал в виде программы свое мировоззрение, по сути дела — ввел в мозг киборгам свои идеи и понятия. Но почему свобода породила агрессию, а проповедь добра обернулась насилием? Киборги не могут переступить через Законы, это инстинкты, они неизвлекаемы; если бы поведение или приказ пришли в противоречие с «тройкой», «ствол» бы парализовал весь мозг — а ведь этого не произошло!
— Кое в чем я разобрался, еще когда тестировал Маску, — Пальмер не мог скрыть удовольствия. — ЦФ-6 и ЦФ-5 разрушают образ «хозяин» и вводят на его место «служение человечеству», поэтому в сферу действия Первого Закона входит больше субъектов, главным образом за счет понятия «семья», а далее — «Двенадцатая Раса». Этого нет в других ЦФ; есть имитация, совместная жизнь, не больше. Находка Фердинанда в том, что он изменил самосознание киборгов; если раньше они занимались мимикрией, то ЦФ-6 переместила понятия «люди» и «человек» через подмену «индивидуальности» и «личности» на членов «семьи»; действие Первого Закона по «семье» усилилось примерно в 15 раз, и Закон стал звучать как-то так: «Мы не можем допустить, чтобы наше действие или бездействие причинило вред нашей семье». Поэтому они шли и на агрессию, и на «Взрыв».
— А Фосфор?
— Ты сам ответил, Хил. Это инстинкт; обстоятельства изменились, а он продолжал спасать потерянную «семью», хотя его акция были заранее обречена. Он это понимал, но противостоять не мог. А его декларации — пояснение на основе личного опыта. Церковь Друга в данном случае — источник информации для поведения; закоротила ему мозг все же ЦФ-6, без нее он танцевал бы где-нибудь в подвале до истощения батареи и призывал на наши головы Туанского Гостя.
— Ты прав, — Хиллари нахмурился, припоминая. — До чего неприятный момент, но… Он сразу бросился мне на помощь, почти без колебаний. Ему скомандовал Первый Закон — значит, все это время Первый работал, хоть и по-другому. Ну что ж, многое прояснилось, можно писать ЦФ-7 «Возвращение». Для начала — полное изъятие «Взрыва», чтобы мы могли работать с неповрежденными баншерами. Проследим закольцованный путь от Третьего к Первому и разорвем его; надо вернуть самосознание «я — киборг» и заменить понятие «семья» на «коллектив», «социум» или «содружество»… пока не знаю, как назвать… и поглядим, что получится. Работы много; возможно, придется испытать несколько версий, пока мы найдем единственно верную.
— А «служение человечеству» не будем изымать?
— Нет, в группах опыта — нет! Да и, признаться по чести, Паль, очень мне хочется обследовать группы усиления, где понятие «хозяин» заменяют субординацией и Уставом внутренней службы. Там же черт-те что понаписано, чем тебе не «служение человечеству»?!
Хиллари припомнил, что во благо проекта творили его серые, и так же мысленно перекрестился, что все обошлось благополучно.
Он еще не все знал!..
— Так «кто» или «что»? — вернулся к началу Пальмер.