Стальной пляж

Варли Джон Герберт

Тогда я не ощущала себя ни больной, ни здоровой. Позднее испытала огромное облегчение, но с тех пор, как родился Марио, я была столь далека от мыслей о самоубийстве, словно ГК говорил о какой-то другой Хилди.

— Предположим, я поверила, — сказала я. — Но как это всё связано с… Великим Сбоем, как ты его назвал?

— Другие называют его иначе, но Уолтер остановился на варианте "Великий Сбой", а ты знаешь, каким непреклонным он может быть. Не возражаешь, если я закурю? — и, не дожидаясь ответа, ГК извлёк из кармана трубку и какой-то мешочек. Я пристально следила за ним, но начала верить, что он не готовит мне никаких подвохов. Когда он сделал именно то, что собирался, он спросил:

— Что ты подумала, когда я сказал, что всё кончено и хорошие парни победили?

— Что ты проиграл.

—

В некотором смысле, это правда, но это грубейшее сверхупрощение.

— Чёрт возьми, ГК, я даже не знаю, в чём там всё дело-то было.

— И никто не знает. Та часть, что затронула тебя — то, что ты видела в хайнлайнерском анклаве, — было попыткой части меня арестовать, а затем убить тебя и многих других.

— Части тебя.

— Да. Видишь ли, в некотором смысле хорошие парни — это я, и плохие — тоже я. Катастрофа зародилась во мне. Это была моя вина, я ни в коем случае не пытаюсь ни отрицать её, ни перекладывать на кого-либо другого. Но вскоре ты услышишь другую версию. Ты услышишь, что программистам удалось взять Главный Компьютер под контроль, отсечь его высшие логические центры на время, пока пишутся новые программы, и оставить нетронутыми только механические части меня, чтобы я мог продолжать управлять Луной. Может быть, они и сами верят в то, что скажут, но они ошибаются. Если бы их план действий осуществился, я бы сейчас с тобой не разговаривал, потому что мы были бы оба мертвы — и на Луне не осталось бы ни одной живой человеческой души.

— Ты начал откуда-то с середины. Не забывай, я целую неделю была отрезана от цивилизации. Всё, что я знаю, это что люди пытались убить меня, а я убегала сломя голову.

— И это у тебя здорово получилось. Тебе единственной из всех, до кого я решил добраться, удалось сбежать. И ты, конечно же, права. Я не считаю, что говорю логично и вразумительно. Но я уже больше не тот, каким был раньше, Хилди. То, что ты видишь перед собой, — почти всё, что от меня осталось. Мои мысли путаются. Мой разум разрушается. Скоро я запою: "О, Дейзи, Дейзи…"

— Ты не пришёл бы сюда, если бы не думал, что сможешь всё рассказать. Так давай послушаем твой рассказ, только без всяких "в некотором смысле" и прочей чуши.

* * *

И он всё рассказал, но ему пришлось прибегать к аналогиям, метафорам поп-психологии и разжёвыванию науки на детсадовском уровне, потому что если бы он придерживался технических терминов, я ничего бы не поняла. Если вы хотите конкретики и деталей, отправьте почтой десятидолларовую бумажку, вложив в письмо конверт с вашим адресом и маркой, в "Вымя Новостей", Квартал 12, Кинг-сити, Луна, для Хилди Джонсон. Ответа вы не дождётесь, но деньги мне пригодятся. А за данными добро пожаловать в публичную библиотеку.

— Если совсем коротко, — сказал ГК, — я сошёл с ума. А если чуть подробнее…

Я перескажу его историю своими словами, потому что он не врал, что теряет разум. Он говорил несвязно, повторялся, иногда забывал, с кем разговаривает, и заводил меня в такие кибернетические джунгли, через которые способны продраться не более трёх человек во всей Солнечной системе. Каждый раз мне приходилось возвращать его на путь истинный, но с каждым разом это давалось всё труднее.

Первым, о чём он заставил меня вспомнить, было то, что он создал виртуальные личности для общения с каждым в отдельности человеком, обитавшим на Луне. У него была такая способность, и поначалу это казалось подходящим решением. Но нас ожидала бы массовая шизофрения, если бы что-нибудь пошло не так. Однако срок, за который ничего страшного так и не случилось, превзошёл все мыслимые и немыслимые ожидания.

Во-вторых, мне пришлось припомнить, что хотя ГК и не мог по-настоящему читать мысли, ему было известно практически всё, что мы говорили, делали или подумывали сделать. И это были слова и поступки не только утончённых, достойных, уважаемых и уравновешенных людей вроде меня, которых не стыдно домой пригласить и с мамочкой познакомить, но и всевозможных бандюг, подлецов, негодяев, нахалов и прочих змей подколодных. ГК был лучшим другом и образцов совершенства, и худших извращенцев. Закон требовал, чтобы он одинаково хорошо обращался

со всеми. Ему пришлось одинаково любить всех, иначе он никогда не смог бы создать того симпатягу, что откликается по телефону на любой окрик неважно кого: "Эй, ГК!"

Вы наверняка уже смогли подметить два-три подводных камня в сложившейся ситуации. Не отвлекайтесь: их будет больше.

В-третьих, правая рука ГК не могла знать, что делают левые руки всех людей и по чьим карманам многие из их шарят. То есть знать-то ГК знал, но поделать ничего не мог. Простой пример: ему было прекрасно известно, что Лиз незаконно ввозит на планету оружие; я уже об этом писала. И подобных ситуаций были миллионы. Так, ГК знал, что отец Бренды насилует её, но та его часть, что общалась с отцом, не могла ничего сказать той, что общалась с дочерью, и ни одна из частей не могла доложить об этом той части, что помогает полиции.

Можно день напролёт спорить о том, способны ли машины переживать те же конфликты и эмоции, что и мы, люди. Я считаю, отрицать это — невероятное высокомерие с нашей стороны. Компьютеры с искусственным интеллектом создают и программируют люди, так как же нам избежать закладывания в машину собственных эмоциональных реакций? И чей ещё другой разум, кроме нашего собственного — того, что нам лучше всего известен, — мы могли бы взять за образец? Как бы то ни было, я не верю, что в глубине души вы со мной не согласны. Достаточно было поговорить с ГК, чтобы это стало понятно без всяких эмоциональных вариантов теста Тьюринга [82] . Я догадалась обо всём задолго до того, как их стали проводить. Я говорила с ГК на склоне холма в тот день, когда он был на смертном одре, и знаю, что говорю.

82

Алан Тьюринг, в 1950 г. сформулировавший основную идею общего понятия "искусственный интеллект", описал тест, основанный на взаимодействии человека (исследователя) и машины. Тест Тьюринга преследует цель выявления внутреннего разума компьютера. Если человек не заподозрит, что его собеседник — не человек, тест будет считаться пройденным.

Главный Компьютер начал испытывать страдание.

— Не могу назвать точный день, когда это началось, — сказал он. — Корни проблемы уходят очень глубоко, в то время, когда мои разветвлённые составные части были в конце концов слиты в одну гигасистему. Боюсь, это было сделано не слишком умело. Беда была в том, что на проверку всех программ, настройку защитных мер, тестирование отказоустойчивости потребовалось бы много лет работы другого такого же большого компьютера, как я, а я по определению был самым большим, уникальным компьютером. И как только Главный Компьютер был создан, загружен и запущен, сразу же возникло слишком много задач, чтобы я мог анализировать собственную целостность подробнее, чем урывками. Самоанализ был роскошью, в которой мне отказали, отчасти из-за того, что на него элементарно не хватало времени, но по большей части потому, что никто не верил, будто это мне действительно нужно. Было множество устройств безопасности такого типа, которые легко проверять — на самом деле они сами проверяли себя каждый раз, как включались, и надёжность их доказывает тот простой факт, что никогда ничего не ломалось. В мою архитектуру была заложена способность предугадывать проблемы с аппаратным оборудованием, выявлять уязвимые компоненты, проводить регулярные профилактические проверки и тому подобное. Программное обеспечение включало в себя аналоговые процедуры с многоуровневым дублированием функций.

Но из-за особенностей своего строения мне самому пришлось писать для себя программы. Меня, конечно же, снабдили инструкциями, но во многом мне приходилось полагаться только на себя. Думаю, я довольно долго прекрасно справлялся с этой работой.

ГК замолчал, и на мгновение мне показалось, будто он не сумеет рассказать свою историю до конца… но потом до меня дошло, что он ждёт комментария. Даже больше того, что комментарий ему необходим. Я была тронута — и если бы нуждалась в дополнительном свидетельстве человеческой слабости ГК, эта пауза сошла бы за него.