Планета Вода. Часть I

Сидоркин Роман

Пока гости рассаживались, Света с Тагиром уединились. Тагир был не в себе: руки дрожали, челюсти часто сжимались.

– Иван приехал? – первым делом спросил он, как только они оказались вдали от всех.

– Нет ещё. Зато мама приехала.

– Мама, мама… – тихо сказал он, глядя в окно – Поскорее бы всё это закончилось, – он кивнул в сторону гостиной.

– Только не будь злым, – шутливо попросила Света – не порть людям праздник.

– У них праздник, а там, куда мы летим с тобой, эпидемии и смерть.

– Не думай сейчас об этом.

– Мне сегодня показали документы. Вот уж точно пока гром не грянет, мужик не перекрестится.

Журналисты писали, что что-то заставило Генассамблею принять такое решение, что-то совершенно немыслимое, но это заминали очень влиятельные структуры.

Света подняла руку, она хотела остановить его, потому что сейчас было неподходящее время для такого разговора, но Тагиру хотелось поделиться своей ношей.

– Только послушай: во время Синергического инцидента, когда несколько корпораций объединили свои наработки по искусственному интеллекту в Планетарный Цифровой Разум, как они это гордо назвали, несколько гуманитарных организаций, чтобы снизить затраты на коммуникации и логистику, решили отдать часть обеспечивающих и расчётных функций этому Сверхразуму. За неделю работы в режиме свободного тестирования ПЦР пришёл к выводу, что количество людей на Земле избыточно…

– Я не хочу сейчас слушать это, – жёстко сказала Света.

– Нет, послушай.

У Тагира начался явный тремор всего тела.

– Эти идиоты так доверились ИИ, что не следили за его решениями в реальном времени, проверяя их только два раза в неделю. Они решили, что, если им удастся сэкономить на персонале, то на сэкономленное можно будет привозить больше продуктов и лекарств жителям Африки. Когда эту электронную сущность отключили, а сотворённое ей стали расследовать, расшифровали несколько витков коллизий, преодолев которые ИИ принял самое бесчеловечное из возможных решений.

Света болезненно морщилась.

– Разве подобные решения не являются первым, что запрещают делать ИИ?

Она без объяснений догадалась, что за решения принял ПЦР.

– Именно поэтому и потребовалось расследование. И поэтому инцидент называют Синергическим. В результате объединения нескольких развитых нейросетей, возникло нечто иное, чем их простая сумма. Что именно там произошло в техническом аспекте, даже спустя несколько лет, никто точно не знает. Некоторые считают, что ПЦР мог сохранить себя где-то за пределами серверов, где находились его вычислительные мощности. Африканская катастрофа – лишь одно из проявлений Инцидента, но я буду заниматься именно ей. За несколько часов ПЦР разрушил всю инфраструктуру, уничтожил технику, запасы лекарств и продовольствия.

– Всё, хватит! – Света сделала движение, чтобы уйти.

Он взял её за руку.

– Нет, дослушай. Ты должна знать, потому что ещё не поздно отказаться. Машина не просто решила, что такое количество ничего не производящих людей планете не нужно, она сделала всё, чтобы им не могли оказать никакой помощи, чтобы убить их, не прибегая к прямому физическому уничтожению.

Тагир блестящими глазами смотрел на неё.

– Умерли сотни миллионов людей, прежде чем его отключили. Никто об этом не знает, потому что никому нет дела до Африки. Журналистов, которые что-то пытались выяснить, затыкали.

– Но почему? – она не могла спросить ничего более содержательного, ей передалось состояние мужа.

– Во время расследования была расшифрована часть алгоритмов, стоящих за таким решением ИИ. Сверхразум и не собирался обходить запрет на причинение вреда человеку. Как ни странно,

он не сделал этого не потому, что не мог, а потому, что он был слишком человечен. Машина согласилась с человеком в том, что убивать людей плохо. ПЦР просто решил позволить умереть тем, кто не в состоянии обеспечить сам себя минимумом, необходимым для выживания. Почти век люди из более богатых стран пытались помочь африканцам, просто доставляя им еду, питьевую воду и лекарства, население Африки росло и в итоге ресурсы, затрачиваемые миром на прокорм континента, стали проходить в базах данных как «значительные». При этом производительность самих африканских стран совсем не росла…

– Они прикормили их, а потом…

Света замолчала.

– Именно. Машина разрешала следующие коллизии: нарушать закон «не навреди человеку» нельзя. Затем она посчитала количество имеющихся у человечества ресурсов, соотнесла с потреблением, не могущих обеспечить себя жизненно необходимым, стран, просчитала возможные пути выхода из тупика, и не нашла ни одного, где голод, нищета и недостаток ключевого сырья, не затронули бы всей планеты целиком. ПЦР нашёл выходы, но для их реализации требовалось слишком много времени. Чтобы выиграть время, необходимо было снизить расходы ресурсов. В случае со сверхбедными странами это означает сокращение количества ртов. Исходя из принципа не вредить человеку, чтобы сохранить человечество, ПЦР разделил людей на способных прокормить себя и неспособных.

По щеке Светы сбежала слеза.

– ПЦР не мог убить людей оружием из-за своей человечности. Это было выяснено при анализе его алгоритмов после отключения. Настоящее революционное открытие для учёных: он мог обойти и этот запрет, но не стал. Поэтому люди так испугались. Это нечто совершенно иное, неизвестное. Но у этой ограниченной человечности была своя обратная сторона. Убивать людей – ужасно, но можно просто дать им умереть, чтобы не умерли другие, которые в силу своего интеллекта могут предотвратить смерти в будущем. Позволить умереть бесполезным. В древности кочевники просто убивали своих стариков и немощных, потому что люди знают, что лучше быстрая смерть, чем медленное затухание от болезни или голода. Человек видит в другом себе подобного, а ИИ, каким бы развитым он ни был – просто машина.

Света плакала.

– Он не просто выключил всю технику и прекратил подвозы, он уничтожил и технику, и инфраструктуру, включая дороги и заводы по опреснению воды, потому что знал, что, когда всё вскроется, его отключат и те, кого он обрёк на голодную смерть, будут спасены. Он предусмотрел своё отключение. Потребовались недели на восстановление инфраструктуры, в течение которых многие умрут. Так и случилось. Теперь ты знаешь, куда мы едем.

Он легонько встряхнул её за плечи.

– Не плачь, – сказал он – что случилось, то случилось. Мы едем туда ради предотвращения подобного в будущем.

– Ведь несколько лет прошло, – шёпотом произнесла она – всё это время ничего не рассказывали.

– И не предпринимали. Эти годы ушли на бюрократические согласования. Знаешь, что самое ужасное? Эта машина была права. Среди переданных мне документов есть расчёты специалистов ООН, в них – графики, показывающие сценарий, при котором Синергического инцидента не было…

Они замолчали, потому что к ним подошла подруга Светы.

– Чего вы тут прячетесь? – спросила она – Гости ждут, потом пообнимаетесь.