На краю пропасти. Экзистенциальный риск и будущее человечества

Орд Тоби

Наконец, в контексте оценки экзистенциального риска необходимо учитывать, что налог на катастрофу не устанавливается извне. Мы можем снизить его собственными действиями. Таким образом, когда мы решаем работать над уменьшением одного экзистенциального риска, мы, возможно, снижаем ставку дисконтирования, которую применяем для оценки последующих действий^[634]. Это может привести к повышению отдачи от работы по защите нашего будущего.

Итак, экономическое дисконтирование не снижает ценность будущего до крошечной – такое случается, только если дисконтирование производится некорректно. Дисконтирование на базе убывающей предельной полезности денег неприменимо, а чисто временное предпочтение несостоятельно. В результате у нас остается изменчивый и непредсказуемый налог на катастрофу. Дисконтировать с его учетом – все равно что утверждать, что нужно оценивать будущее по ожидаемой ценности: если у нас есть

эмпирические основания полагать, что будущее будет очень долгим, процесс дисконтирования не будет снижать его ценность в дальнейшем^[635].

Приложение B

Популяционная этика и экзистенциальный риск

Теории этики указывают на многие аспекты наших действий, которые в совокупности определяют, правильны они или неправильны. Например, действуем ли мы из дурных побуждений, нарушаем чужие права или проявляем несправедливость по отношению к другим людям. Важный аспект, который почти все считают особенно значимым, – это влияние наших действий на благосостояние людей: повышать чье-то благосостояние хорошо, а снижать – плохо. Но некоторые из наших действий не просто меняют благосостояние людей, а определяют, кто вообще будет жить на земле. Взять хотя бы молодую пару, которая решает, заводить ли ребенка. Кроме того, существуют разные мнения по вопросу о том, как сравнивать исходы, затрагивающие разных людей и особенно разное число людей. Подобласть этики, которая занимается этими вопросами, называется популяционной этикой.

Популяционная этика выходит на первый план, когда поднимается вопрос о том, насколько плохо будет, если человечество вымрет. Один ряд причин не допустить вымирания связан с будущим. Я отметил, что впереди у нас большое будущее, в котором могут жить тысячи, миллионы и миллиарды будущих поколений. Вымирание поставит крест и на этих жизнях, и на связанном с ними благосостоянии. Насколько плохо было бы лишиться будущего благосостояния?

Простой ответ дает теория общего взгляда: моральная ценность будущего благосостояния – это сумма благосостояния, которое ждет человечество в будущем. И неважно, кто станет адресатом этого благосостояния: люди, живущие сегодня, или люди, которые появятся позже. При прочих равных это позволяет сделать вывод, что ценность тысячи дополнительных поколений в тысячу раз выше ценности нашего поколения. С этой точки зрения, лишаясь будущего, мы несем колоссальные потери.

Для проверки теорий морали философы проводят мысленные эксперименты, в которых испытуемым приходится делать неприятный выбор. Часто этот выбор оторван от действительности, но предполагается, что теория морали применима в любых ситуациях, поэтому можно попытаться найти ситуацию, в которой теория приводит к интуитивно неверному решению, и использовать ее в качестве аргумента против теории.

Теорию общего взгляда критикуют главным образом потому, что из нее вытекает так называемый противный вывод (repugnant conclusion): для любого исхода, в котором благосостояние каждого высоко, есть еще более хороший исход, в котором благосостояние каждого минимально, но людей так много, что количество переходит в качество. Некоторые компромиссы между количеством и качеством понятны на интуитивном уровне (например, что современный мир, где живет 7,7 млрд человек, лучше, чем такой, где жил бы всего один человек, но его благосостояние было бы чуть выше среднего), но большинство полагает, что теория общего взгляда заходит в этой сфере слишком далеко.

Как мы увидим, у конкурирующих теорий есть собственные неочевидные следствия, и к тому же в этой области найдены известные доказательства невозможности, демонстрирующие, что у любой теории есть хотя бы одно моральное следствие, которое большинство людей считают немыслимым^[636]. В связи с этим нам не стоит надеяться найти ответ, соответствующий всем нашим интуитивным предположениям, и нужно учитывать, насколько пагубно каждое из этих неочевидных следствий.

Есть и другой известный подход к популяционной этике: в соответствии с ним ценность благосостояния во Вселенной задается не суммой, а средним значением. У этого метода два основных варианта. В первом берется среднее благосостояние каждого поколения и затем значения суммируются. Во втором берется среднее благосостояние всех людей, которые когда-либо жили, где бы они ни находились во времени и пространстве.

К обоим вариантам усреднения предъявляются весьма серьезные претензии. В первом предпочтение может быть отдано альтернативе, в которой существуют ровно те же люди, но благосостояние каждого из них ниже^[637].

Во втором проблемы возникают, когда мы рассматриваем отрицательное благосостояние, то есть жизни, не имеющие ценности. Если бы мы выбирали лишь между гибелью человечества и созданием такого будущего, в котором благосостояние людей крайне отрицательно, то в соответствии с этой теорией мы могли бы предпочесть второе (если прошлое было столь ужасным, что даже такое кошмарное будущее повысило бы среднее благосостояние). Возможно, нам пришлось бы даже сделать выбор в пользу жизней с отрицательным благосостоянием, а не в пользу большего количества жизней с положительным благосостоянием (если прошлое было таким прекрасным, что большее количество положительных жизней еще сильнее размыло бы среднее). Эти выводы обычно считаются еще менее очевидными, чем противный вывод, и очень сложно найти сторонников любого из вариантов определения среднего среди тех, кто изучает популяционную этику.

Любопытно, что, даже если закрыть глаза на эти тревожные следствия, оба варианта определения среднего, вероятно, подтверждают мысль, что вымирание в реальном мире будет чрезвычайно плохим исходом. Это понятно при расчете суммы поколенческих средних – как и теория “общего взгляда”, этот метод показывает, что при прочих равных ценность 1000 будущих поколений в 1000 раз больше ценности нашего поколения. Что насчет среднего среди всех жизней во все времена? Поскольку качество жизни со временем повышается (и может стать еще гораздо выше), наше поколение на самом деле повышает абсолютное среднее. Повышать его продолжат и будущие поколения (даже при таком же качестве жизни, как сейчас)^[638]. Следовательно, каким бы вариантом определения среднего мы ни пользовались, у нас будут веские причины не допустить вымирания во имя благосостояния будущих поколений.

Но есть и альтернативный подход к популяционной этике, в соответствии с которым вымирание человечества может не считаться негативным исходом. Самый известный его сторонник – философ Ян Нарвесон, который облек его основную идею в форму слогана: “Мы хотим делать людей счастливыми, но нам все равно, появятся ли счастливые люди”^[639]. В попытке передать суть этой точки зрения было разработано множество теорий популяционной этики, которые называются подходами, затрагивающими личность (person-affecting views). Согласно некоторым из них, появление впоследствии тысяч будущих поколений с высоким благосостоянием не дает никаких плюсов, а значит, вымирание человечества не приносит никаких минусов (во всяком случае, с точки зрения благосостояния будущих поколений). Возможно ли такое? Могут ли эти теории ослабить поводы об экзистенциальном риске?

Создать теоретическую основу слогану Нарвесона пытались двумя путями. В первом задействуется простая мысль, называемая ограничением, затрагивающим личность (person-affecting restriction): один исход не может быть лучше другого (по крайней мере, с точки зрения благосостояния), если он ни для кого не будет лучшим^[640]. Этот принцип повсеместно применяется в тех случаях, где существуют одни и те же люди в обоих исходах. Если в разных исходах существуют разные люди, этот принцип обычно трактуется немного иначе и сводится к тому, что один исход можно считать лучше другого, только если в них обоих существует один и тот же человек, который и определяет качество исхода. В результате принцип становится и действенным, и неоднозначным. Например, с его помощью можно избежать противного вывода: нет никого, кому было бы лучше в исходе с большим количеством людей с низким благосостоянием, поэтому такой исход не может быть лучше других^[641].

Другой теоретической базой для слогана Нарвесона служит мысль о том, что мы в ответе перед людьми, живущими сегодня, а не перед теми, кто еще только может появиться на свет^[642]. Согласно этой точке зрения, нам не пришлось бы никак ущемлять жизни людей настоящего во имя спасения людей будущих поколений, которые еще не существуют.

Какое бы из этих обоснований мы ни выбрали, у нас возникнут серьезные проблемы, когда мы вспомним о возможности отрицательного благосостояния. Можно провести мысленный эксперимент, по условиям которого в будущем появятся люди, которым придется жить в жутких условиях, если только нынешнее поколение не пойдет на небольшие жертвы, чтобы этого не допустить. Почти все разделяют интуитивное понимание того, что появление жизней с отрицательным благосостоянием не пойдет никому на пользу, а следовательно, мы должны быть готовы заплатить небольшую цену, чтобы это предотвратить. Но в таком случае нам придется пойти на реальные жертвы ради несуществующих людей, и тогда мы выберем исход, в котором никому не станет лучше (а живущим сегодня людям станет хуже).