На краю пропасти. Экзистенциальный риск и будущее человечества - Тоби Орд

(примерно 10 % в столетие)[630]. Таким образом, будущее человечества оказалось примерно в 1000 раз более ценным, чем следующий год (и еще более ценным, если каждый следующий год лучше предыдущего). Этого достаточно, чтобы экзистенциальный риск приобрел чрезвычайную важность, но все равно меньше, чем можно было бы предположить.

В стандартной формуле ставка дисконтирования неизменна во времени, и потому будущее дисконтируется по экспоненциальной кривой. Но при проведении более точной экономической оценки ставка может со временем меняться[631]. Это принципиально для налога на катастрофу. Хотя фоновый природный риск, возможно, остается примерно одинаковым, антропогенные риски резко растут. Если человечество вступит в борьбу с ними, как, полагаю, нам и нужно поступить, риски начнут снижаться и, возможно, снова выйдут на фоновый уровень или станут даже ниже. Если годовые риски в долгосрочной перспективе станут низкими, то ожидаемая ценность будущего действительно чрезвычайно высока. Вот упрощенный пример: если, стоя на краю Пропасти, мы навлечем на себя общий риск в 50 %, прежде чем вернуть риски на фоновый уровень, то наше будущее окажется как минимум в 100 тысяч раз ценнее следующего года[632].

Разумеется, мы никак не можем узнать, каков сейчас налог на катастрофу, не говоря уже о том, чтобы выяснить, как он будет меняться со временем. Это сильно сказывается на анализе. Можно подумать, что в ситуации, когда налог на катастрофу неизвестен, нам стоит просто проводить дисконтирование по среднему значению налогов на катастрофу, которые кажутся нам правдоподобными. Например, если мы считаем, что налог с одинаковой вероятностью может равняться как 0,1 %, так и 1 %, нам, казалось бы, следует проводить дисконтирование по ставке 0,55 %. Но это неправильно. При более внимательном анализе становится понятно, что дисконтирование следует проводить по меняющейся ставке, которая со временем сдвигается от этого среднего значения к минимальному правдоподобному[633]. В таком случае мы дисконтируем долгосрочное будущее так, как если бы жили в самом безопасном из миров, которые кажутся нам реалистичными. Следовательно, вероятность того, что долгосрочные налоги на катастрофу опустятся на фоновый уровень или ниже, играет огромную роль при определении дисконтированной ценности будущего человечества.

Наконец, в контексте оценки экзистенциального риска необходимо учитывать, что налог на катастрофу не устанавливается извне. Мы можем снизить его собственными действиями. Таким образом, когда мы решаем работать над уменьшением одного экзистенциального риска, мы, возможно, снижаем ставку дисконтирования, которую применяем для оценки последующих действий[634]. Это может привести к повышению отдачи от работы по защите нашего будущего.

Итак, экономическое дисконтирование не снижает ценность будущего до крошечной – такое случается, только если дисконтирование производится некорректно. Дисконтирование на базе убывающей предельной полезности денег неприменимо, а чисто временное предпочтение несостоятельно. В результате у нас остается изменчивый и непредсказуемый налог на катастрофу. Дисконтировать с его учетом – все равно что утверждать, что нужно оценивать будущее по ожидаемой ценности: если у нас есть эмпирические основания полагать, что будущее будет очень долгим, процесс дисконтирования не будет снижать его ценность в дальнейшем[635].

Приложение B

Популяционная этика и экзистенциальный риск

Теории этики указывают на многие аспекты наших действий, которые в совокупности определяют, правильны они или неправильны. Например, действуем ли мы из дурных побуждений, нарушаем чужие права или проявляем несправедливость по отношению к другим людям. Важный аспект, который почти все считают особенно значимым, – это влияние наших действий на благосостояние людей: повышать чье-то благосостояние хорошо, а снижать – плохо. Но некоторые из наших действий не просто меняют благосостояние людей, а определяют, кто вообще будет жить на земле. Взять хотя бы молодую пару, которая решает, заводить ли ребенка. Кроме того, существуют разные мнения по вопросу о том, как сравнивать исходы, затрагивающие разных людей и особенно разное число людей. Подобласть этики, которая занимается этими вопросами, называется популяционной этикой.

Популяционная этика выходит на первый план, когда поднимается вопрос о том, насколько плохо будет, если человечество вымрет. Один ряд причин не допустить вымирания связан с будущим. Я отметил, что впереди у нас большое будущее, в котором могут жить тысячи, миллионы и миллиарды будущих поколений. Вымирание поставит крест и на этих жизнях, и на связанном с ними благосостоянии. Насколько плохо было бы лишиться будущего благосостояния?

Простой ответ дает теория общего взгляда: моральная ценность будущего благосостояния – это сумма благосостояния, которое ждет человечество в будущем. И неважно, кто станет адресатом этого благосостояния: люди, живущие сегодня, или люди, которые появятся позже. При прочих равных это позволяет сделать вывод, что ценность тысячи дополнительных поколений в тысячу раз выше ценности нашего поколения. С этой точки зрения, лишаясь будущего, мы несем колоссальные потери.

Для проверки теорий морали философы проводят мысленные эксперименты, в которых испытуемым приходится делать неприятный выбор. Часто этот выбор оторван от действительности, но предполагается, что теория морали применима в любых ситуациях, поэтому можно попытаться найти ситуацию, в которой теория приводит к интуитивно неверному решению, и использовать ее в качестве аргумента против теории.

Теорию общего взгляда критикуют главным образом потому, что из нее вытекает так называемый противный вывод (repugnant conclusion): для любого исхода, в котором благосостояние каждого высоко, есть еще более хороший исход, в котором благосостояние каждого минимально, но людей так много, что количество переходит в качество. Некоторые компромиссы между количеством и качеством понятны на интуитивном уровне (например, что современный мир, где живет 7,7 млрд человек, лучше, чем такой, где жил бы всего один человек, но его благосостояние было бы чуть выше среднего), но большинство полагает, что теория общего взгляда заходит в этой сфере слишком далеко.

Как мы увидим, у конкурирующих теорий есть собственные неочевидные следствия, и к тому же в этой области найдены известные доказательства невозможности, демонстрирующие, что у любой теории есть хотя бы одно моральное следствие, которое большинство людей считают немыслимым[636]. В связи с этим нам не стоит надеяться найти ответ, соответствующий всем нашим интуитивным предположениям, и нужно учитывать, насколько пагубно каждое из этих неочевидных следствий.

Есть и другой известный подход к популяционной этике: в соответствии с ним ценность благосостояния во Вселенной задается не суммой, а средним значением. У этого метода два основных варианта. В первом берется среднее благосостояние каждого поколения и затем значения суммируются. Во втором берется среднее благосостояние всех людей, которые когда-либо жили, где бы они ни находились во времени и пространстве.

К обоим вариантам усреднения предъявляются весьма серьезные претензии. В первом предпочтение может быть отдано альтернативе, в которой существуют