На краю пропасти. Экзистенциальный риск и будущее человечества

Орд Тоби

Я не знаю, безумны эти вопросы или же глубоки. Как бы то ни было, их рассмотрение можно отложить до того момента, когда мы обеспечим экзистенциальную безопасность. Говоря о необходимости не допустить экзистенциальной катастрофы, мы не опираемся на такие теории, как утилитаризм, а если создать бесконечную ценность действительно можно, то экзистенциальная безопасность повысит наши шансы на это. Следовательно, даже рассмотрение таких вопросов, ответы на которые могут радикально изменить наш подход к оценке лучших вариантов будущего для человечества, предпочтительнее отложить на период долгого раздумья.

Некоторые этические вопросы о нашем долгосрочном будущем могут быть даже более насущными, чем задача обеспечения экзистенциальной безопасности,

и потому их рассмотрение откладывать нельзя. Их важно найти и рассмотреть параллельно с обеспечением экзистенциальной безопасности.

518

Стивен Хокинг (Highfield, 2001): “Вряд ли человечество проживет еще тысячу лет, если не расселится по космосу. На одной планете с нами может случиться слишком много неприятностей. Но я оптимист. Мы доберемся до звезд”.

Айзек Азимов (1979, p. 362; перевод А. Девеля и Л. Девель): “И если мы сделаем этот выбор в двадцать первом столетии, мы можем распространиться в космосе и утратить свою уязвимость. Мы больше не будем зависеть от одной планеты или от одной звезды. И тогда человечество или его разумные потомки и их союзники смогут существовать и после прекращения существования Земли, после прекращения существования Солнца, после (кто знает?) прекращения существования нашей Вселенной”.

Майкл Гриффин, руководитель NASA (2008): “История жизни на Земле – это история вымираний, и экспансия человека в Солнечную систему, по сути, необходима для выживания вида”.

Дерек Парфит (2017b, p. 436): “Важнее всего сейчас то, как мы работаем с рисками, которые ставят под угрозу существование человечества. Мы сами создаем некоторые из этих рисков и ищем способы работать с ними, а также с другими рисками. Если мы снизим эти риски и человечество проживет еще несколько столетий, наши потомки или преемники смогут положить этим рискам конец, расселившись по нашей галактике”.

Илон Маск (Musk, 2018): “…важно основать базу, работающую на самообеспечении. В идеале – на Марсе, потому что Марс находится достаточно далеко от Земли, а следовательно, в случае войны на Земле база на Марсе может уцелеть с большей вероятностью, чем лунная база”.

Карл Саган (Sagan, 1994, p. 371; перевод О. Сивченко) намекнул на это, сказав: “Из множества дискредитированных проявлений самодовольного шовинизма лишь одно пока не сдает позиций, единственное человеческое качество, кажущееся уникальным: по причине наших собственных действий или бездействия, а также злоупотребления технологиями мы живем в экстраординарное время – по крайней мере, в масштабах Земли: впервые биологический вид способен сам себя уничтожить. Но в это самое время, могли бы отметить вы, наш вид оказался в силах отправиться к другим планетам и звездам. Две эпохи, наступившие благодаря одним и тем же технологиям, совпали: несколько веков в 4,5 млрд лет истории планеты. Если бы вас случайным образом забросили на Землю в любой момент прошлого (или будущего), шансы оказаться именно в этой эпохе составили бы менее одного на десять миллионов. Наш долг перед будущим высок именно сейчас”.

Но далее он предлагает нечто напоминающее экзистенциальную безопасность, о которой говорю я (1994, p. 371): “Они мигом создают инструменты для изменения миров. Некоторые планетарные цивилизации способны спланировать будущее, определиться с тем, что можно сделать и чего делать нельзя, поэтому спокойно проходят период невзгод. Другие, менее благоразумные или менее везучие, исчезают”.

519

Мои коллеги Андерс Сандберг и Стюарт Армстронг подробнее рассматривают логические и математические аспекты этого утверждения (Armstrong & Sandberg, 2013). Они показывают, что число избыточных копий должно просто возрастать логарифмически, чтобы вероятность существования в любой момент хотя бы одной копии была ненулевой.

520

Распространение

этих рисков ограничивается скоростью света, поэтому из за космического расширения область их распространения будет конечной (см. главу 8). Впрочем, нам это мало что дает, поскольку в настоящий момент в область поражения входит все, чего мы когда либо можем достичь. В далеком будущем ситуация немного улучшится: все группы галактик окажутся изолированными друг от друга, поэтому мы, возможно, расселимся по миллионам независимых миров. Но повторно заселить какую либо из таких локаций, находясь при этом в другой, не получится, а потому в среднем при риске в 1 % будет навсегда уничтожаться 1 % из них. Согласно некоторым точкам зрения, это будет не лучше, чем риск с вероятностью 1 % лишиться всех их. Даже если нам достаточно, чтобы выстоял хотя бы один бастион человечества, пользы от него будет мало. В отсутствие возможности повторно заселять локации и при стабильном вековом риске вымирания в каждом из миров 1 к 1000 все локации исчезнут уже через 5 млн лет. Этот срок может показаться немалым, однако, поскольку для начала нам нужно продержаться сто миллиардов лет, пока Вселенная не разделится на изолированные зоны, защититься таким образом у нас не получится. Истинную защиту обеспечивает не избыточность, а готовность принимать риски всерьез и работать над их устранением.

521

Неясно, насколько это помогает. Прежде всего, это зависит от того, какая часть экзистенциального риска не коррелирована между планетами и как лучше всего моделировать этот риск. Можно, например, считать, что некоторая доля агрегированного риска не коррелирована, и утверждать, что расселение по другим планетам ее устранит. Таким образом, устранение этой доли агрегированного риска может существенно изменить наши шансы реализовать свой потенциал. Но мы также можем смоделировать свою ситуацию, посчитав некоррелированной некоторую долю риска в каждом столетии (например, 5 % из общих 10 %). В этом примере устранение некоррелированного риска (при сохранении коррелированного) просто удвоит ожидаемое время до экзистенциальной катастрофы с 10 веков до 20, что лишь незначительно увеличит продолжительность жизни человечества. Я не знаю, какая из этих моделей лучше.

Также возникают вопросы к экономической эффективности такого пути. На мой взгляд, основание космической колонии – не самый экономичный способ снизить риск в текущем столетии. Например, основать подобные самодостаточные колонии в труднодоступных регионах Земли (в Антарктиде, на морском дне…) вышло бы гораздо дешевле, и при этом они защитили бы нас от многих из тех же рисков. Впрочем, возможно, неверно полагать, что деньги на космические колонии выделяются из того же ограниченного бюджета, что и на снижение рисков. Это настолько вдохновляющий проект, что средства на него могут поступить и из других источников, а вызываемое им воодушевление (вкупе с пониманием, что человечеству действительно суждено жить среди звезд) может способствовать увеличению общего объема ресурсов, выделяемых на обеспечение экзистенциальной безопасности.

522

В зависимости от того, как именно мы определяем экзистенциальную катастрофу, их может случиться и две. Допустим, мы лишились 99 % своего потенциала в экзистенциальной катастрофе. Поскольку я не утверждаю, что катастрофа может считаться экзистенциальной, только если полностью уничтожит наш потенциал, такая катастрофа идет в расчет. В последующие годы нам, возможно, целесообразно будет оберегать оставшийся 1 % нашего потенциала от новых катастроф. Если изначально наш потенциал был поистине велик, то оставшийся 1 % также может быть велик в сравнении с нашими будничными заботами и доводы в пользу его сохранения могут быть очень вескими. В этом случае людям, живущим после первой экзистенциальной катастрофы, логично изучить все подходы к работе с экзистенциальным риском.