Рейтинговые книги
Читем онлайн На краю пропасти. Экзистенциальный риск и будущее человечества - Тоби Орд

Шрифт:

-
+

Интервал:

-
+

Закладка:

Сделать
1 ... 51 52 53 54 55 56 57 58 59 ... 144
разных масштабов. В пандемиях могут гибнуть тысячи, миллионы или миллиарды человек, а диаметр астероидов варьируется от метров до километров. В каждом случае риски, судя по всему, распределяются по степенному закону, где катастрофы становятся значительно более редкими по мере увеличения масштабов. Это значит, что, скорее всего, мы столкнемся с пандемией или астероидом, которые убьют одну сотую населения Земли, прежде, чем с пандемией или астероидом, которые убьют одну десятую населения, а катастрофа, которая уничтожит одну десятую населения, будет предшествовать той, в которой погибнут почти все люди[497]. Другие риски, например риск, сопряженный с неконтролируемым искусственным интеллектом, могут, напротив, угрожать полным исчезновением человечества. Давайте называть небольшую катастрофу “предупредительным выстрелом”, если она с большой долей вероятности может подтолкнуть человечество к серьезным полезным действиям ради устранения будущего риска такого типа. При прочих равных в приоритете должны быть внезапные риски, то есть те, перед которыми вряд ли прозвучат предупредительные выстрелы, поскольку эти риски с большей вероятностью не будут получать должного внимания в долгосрочной перспективе[498].

Хотя я представил этот анализ как разбор того, какие риски должны рассматриваться в приоритетном порядке, те же принципы можно применить при расстановке приоритетов среди разных факторов риска и факторов безопасности. Кроме того, они могут помочь установить приоритетный порядок применения различных способов защиты нашего потенциала в долгосрочной перспективе, таких как содействие укоренению норм, работа в существующих институтах и создание новых. Но главное, что описанные принципы можно использовать при расстановке приоритетов не только в рамках этих сфер, но и между ними, поскольку все показатели выражаются в общих единицах степени снижения общего экзистенциального риска.

В этой книге мы рассмотрели немало подходов к снижению экзистенциального риска. Самый очевидный из них – непосредственная работа с конкретным риском, например с риском ядерной войны или пандемии искусственного происхождения. Но воздействовать на риски можно и опосредованно: работать с факторами риска, такими как война великих держав, или с факторами безопасности, такими как создание нового международного института для снижения экзистенциального риска. Возможно, существуют и более опосредованные методы. Надо полагать, что риск будет ниже в период стабильного экономического роста, чем в период кризиса, вызванного глубокой рецессией. Кроме того, он снизится, если население будет лучше образовано и лучше информировано.

Превентивные меры

Некоторые из крупнейших рисков, которые нам грозят, по-прежнему едва маячат на горизонте. В состоянии ли мы принимать эффективные меры по борьбе с ними, пока угроза так далека? Как нам действовать сейчас, если мы еще не совсем уверены в том, какую форму примут эти риски, какими будут технологии и каким предстанет стратегический ландшафт, когда они наступят?

Это важные вопросы, которые следует задавать при любой попытке работать с будущими рисками. В вопросах времени мы близоруки, поэтому велик шанс, что наши старания пойдут прахом. Но не стоит отчаиваться. Есть способы существенно повысить пользу заблаговременной работы с риском.

Превентивные меры лучше всего подходят для смены курса. Когда мы движемся в неверном направлении, лучше скорректировать курс на ранних этапах. А значит, если мы хотим увести технологию (или страну) с опасного пути, сейчас у нас для этого больше сил и возможностей, чем будет потом.

Превентивные меры лучше всего стимулируют самосовершенствование, поскольку у нас появляется больше времени, чтобы пожинать плоды своих трудов. Если необходимы исследования, образование или влияние, начинать лучше как можно раньше.

Превентивные меры лучше всего способствуют росту. Если кто-то хочет превратить инвестиции в состояние, статью – в область исследований, а идею – в движение, лучше приступать к делу как можно скорее.

Превентивные меры лучше всего подходят и для задач, предполагающих множество последовательных этапов. Если ваше решение структурировано именно так, реализовать его, возможно, не получится, если не начать работу необычайно рано.

Иными словами, превентивные меры – более эффективный инструмент, но он с большей вероятностью может оказаться бесполезным. Эти меры более действенны, но менее точны. Если мы приступаем к делу задолго до наступления риска, нам нужно выбирать такие методы, которые используют преимущество описанного рычага, но при этом остаются устойчивыми к нашей близорукости[499]. Часто это предполагает необходимость сосредоточиться на накоплении знаний и расширении компетенций, вместо того чтобы действовать напрямую.

* * *

Философ Ник Бекстед предлагает различать целевое и общее вмешательство[500]. Если мы сосредоточены на защите человечества, это не значит, что внимания заслуживают только узкие целевые меры, например установление контроля над опасной технологией. Экзистенциальный риск можно снижать и путем более общего вмешательства, которое позволяют нам становиться мудрее, учиться принимать взвешенные решения и налаживать международное сотрудничество. Неизвестно, какой из этих подходов эффективнее. Бекстед полагает, что лонгтермистам прошлых веков лучше было бы сосредоточиться на общих мерах, чем на целевом вмешательстве.

Быть может, Бекстед и прав насчет прошлых веков, но главным образом потому, что экзистенциальный риск был крайне низок, пока в XX веке мы не обрели достаточную мощь, чтобы стать угрозой для самих себя. С этой точки зрения первые лонгтермисты, включая Бертрана Рассела и Альберта Эйнштейна, поступали правильно, посвящая столько внимания целевым мерам по снижению угрозы ядерной войны.

На мой взгляд, можно попробовать разрешить проблему выбора между целевыми и общими мерами, приняв во внимание фактор пренебрежения. В настоящий момент триллионы долларов ежегодно расходуются на общие меры, например образование, в то время как на целевые меры по снижению экзистенциального риска идет менее одной десятитысячной от этой суммы[501]. Следовательно, общими мерами пренебрегают в значительно меньшей степени. Это дает нам веское основание полагать, что сегодня активизация целевого вмешательства окажется более эффективной (а из общих

1 ... 51 52 53 54 55 56 57 58 59 ... 144
На этой странице вы можете бесплатно читать книгу На краю пропасти. Экзистенциальный риск и будущее человечества - Тоби Орд бесплатно.
Похожие на На краю пропасти. Экзистенциальный риск и будущее человечества - Тоби Орд книги

Оставить комментарий