На краю пропасти. Экзистенциальный риск и будущее человечества - Орд Тоби

Как отдельные риски объединяются в общий риск? Допустим, во всем нашем будущем лишь два риска с вероятностями 10 % и 20 %. Каков при этом общий риск? Возникает желание просто сложить вероятности, но обычно это дает неверный результат. Ответ зависит от взаимосвязи этих рисков (см. Рис. 6.1).

Рисунок 6.1. Риски могут сочетаться множеством способов, от идеальной антикорреляции (А) до идеальной корреляции (Б). Промежуточное положение занимает важный случай взаимозависимости (В). Общий риск зависит от того, сколько риска “теряется” при наложении их друг на друга – в той области, где катастрофа все равно случится, даже если мы уничтожим один из рисков. Большое наложение снижает общий риск, но также ограничивает преимущества уничтожения одного из рисков.

Хуже всего, когда они находятся в идеальной антикорреляции (например, как вероятность того, что случайное число в интервале от 1 до 100 меньше либо равно 10, и того, что такое число больше 80). В таком случае общий риск представляет собой сумму двух его факторов: 30 %. Лучше всего, когда риски находятся в идеальной корреляции, например 10 %-ный риск наступает только в тех случаях, когда наступает и 20 %-ный (например, как вероятность того, что случайное число в интервале от 1 до 100 меньше либо равно 10, и вероятность того, что такое число меньше либо равно 20)[477]. В таком случае общий риск равен более высокому из двух: 20 %. Если риски статистически независимы друг от друга (например, риски в двух отдельных лотереях), вероятность оказывается промежуточной. В таком случае она составит 28 %. (Проще всего понять это, представив вероятность того, что не случится ни одна из катастроф: 90 % × 80 % = 72 %. Если мы вычтем это произведение из 100 %, получится 28 %.)

Чего нам ожидать на практике? В целом, полагаю, нам следует ожидать некоторой положительной корреляции между большинством пар рисков в силу существования общих причин и общих решений[478]. Так, серьезная мировая война может повысить многие экзистенциальные риски, а успешная деятельность общемирового института по управлению экзистенциальным риском может многие из них снизить. Это умеренно хорошая новость, поскольку из-за этого риски чаще накладываются друг на друга, а общий риск становится чуть ниже, чем если бы риски просто суммировались или считались бы независимыми[479]. Если связь между рисками не видна, логично сначала предположить, что такие риски независимы, а затем проверить, что изменилось бы, если бы между ними наблюдалась корреляция или антикорреляция.

Как ни странно, такие проблемы возникают не только при объединении рисков, но и при сопоставлении их важности. Насколько 20 %-ный риск важнее 10 %-ного? Очевидный ответ “вдвое” почти никогда не оказывается верным (для этого риски должны состоять в идеальной антикорреляции). Чтобы получить верный ответ, нужно учесть, что важность устранения риска определяется тем, какая доля общего риска исчезнет с его устранением. После этого можно проверить, чему равна эта доля.

Например, на Рис. 6.1 мы увидели, что независимые 10 %-ный и 20 %-ный риски дают общий 28 %-ный риск. Следовательно, устранение 10 %-ного риска снизит общий риск на 8 % (с 28 до 20 %), а устранение 20 %-ного риска снизит его на 18 % (с 28 до 10 %), что более чем вдвое больше. 20 %-ный риск окажется в 2,25 раза более важным, чем 10 %-ный, и, как правило, более высокие риски важнее, чем можно подумать. Эти неочевидные эффекты (и не только они) становятся тем значимее, чем сильнее корреляция рисков и чем выше общий риск. Они приобретают особенную важность, если риск в этом столетии выше, чем я предполагаю, или если высок общий риск для всего нашего будущего (некоторые неожиданные следствия этого рассматриваются в Приложении D).

Факторы риска

В главах 3–5 мы рассмотрели многие характерные экзистенциальные риски. Вооружившись понятием общего риска, мы могли бы рассматривать эти главы как разбивку общего риска на набор отдельных рисков, каждый из которых имеет собственный механизм для разрушения нашего потенциала. У нас могло бы возникнуть желание рассматривать этот набор как перечень важнейших тем, которые встают перед человечеством: как меню, из которого начинающий альтруист может выбрать себе дело всей жизни. Но это было бы преждевременно. Дело в том, что существуют и другие способы разбить общий экзистенциальный риск на отдельные элементы.

Рассмотрим возможность войны между некими мощными силами в текущем столетии. Иными словами, войны между любыми из самых могущественных в мире стран или блоков[480]. Война такого масштаба определила первую половину XX века, а ее угроза определила большую часть второй половины столетия. Хотя международная напряженность снова нарастает, кажется практически немыслимым, чтобы в текущем десятилетии любые из великих держав вступили в войну друг с другом, и в обозримом будущем это тоже представляется маловероятным. Но век – это долгое время, и, несомненно, существует риск, что между великими державами снова случится война.

Мы могли бы посчитать войну между великими державами экзистенциальным риском, но только с натяжкой. Сама по себе война не может выступать в роли механизма, уничтожающего человечество или наш потенциал, поскольку не она наносит нам решающий удар. И все же война между великими державами повысит экзистенциальный риск. Она повысит риски, связанные с различными технологиями вооружения: ядерным оружием, пандемиями искусственного происхождения, а также всеми новыми типами оружия массового уничтожения, изобретенными к ее началу. Кроме того, она косвенно поспособствовала бы повышению вероятности других рисков: подрыв международного доверия и сотрудничества усложнил бы управление изменением климата и безопасную разработку ОИИ, что увеличило бы сопряженные с ними опасности. В дополнение к этому войны между великими державами могут ускорять появление новых экзистенциальных рисков. Не забывайте, что ядерное оружие появилось во время Второй мировой войны, а его разрушительная сила была существенно увеличена во время холодной войны, когда изобрели водородную бомбу. История показывает, что войны такого размаха искушают человечество заглядывать в самые темные глубины технологий.

С учетом всего этого угроза войны между великими державами может (косвенно) представлять значительную долю экзистенциального риска. Например, складывается впечатление, что львиная доля экзистенциального риска в прошлом столетии объяснялась угрозой масштабной войны. Вспомните собственную оценку экзистенциального риска в последующее столетие. В какой степени она уменьшилась бы, если бы у вас была уверенность, что великие державы в этот период не вступят друг с другом в войну? Точно сказать невозможно, но я подозреваю, что оценка риска на этот период сократится существенно – примерно на десятую долю. Поскольку я считаю, что экзистенциальный риск в грядущем веке составляет примерно 1 к 6, по моим оценкам, масштабная война вносит более одного процентного пункта в общий экзистенциальный риск в последующее столетие. Таким образом, ее вклад в общий риск оказывается больше, чем вклад большинства отдельных рисков, которые мы рассматривали.

Хотя вы вольны не соглашаться с моими оценками, я полагаю, что с уверенностью можно сказать, что война между великими державами вносит в общий экзистенциальный риск больший вклад, чем все природные риски, вместе взятые. Следовательно, молодому человеку, выбирающему карьерный путь, филантропу, выбирающему дело для поддержки, и государству, желающему сделать мир безопаснее, лучше сосредоточиться на предотвращении масштабной войны, чем на обнаружении астероидов и комет.

Такой альтернативный способ разбивки экзистенциального риска вдохновлен грандиозным исследованием в сфере всемирного здравоохранения “Глобальное бремя болезней”, которое проводится с целью изучить общее состояние здоровья людей по всему миру и дает мне важный стимул для работы в соответствующей сфере[481]. Его авторы классифицировали все проблемы со здоровьем в мире по причине их возникновения, будь то болезнь или травма. Взяв подытог для каждой болезни и травмы, они суммировали показатели и получили общее бремя болезней и травм. Но они хотели узнать ответы и на другие вопросы, например сколько проблем со здоровьем вызывает курение. Само по себе курение не болезнь и не травма, но оно вызывает заболевания сердца и легких. Ученые назвали курение “фактором риска” и пояснили: “Фактор риска – это атрибут или условие, которое приводит к повышению вероятности болезни или травмы”. Это позволяет проводить чрезвычайно полезный междисциплинарный анализ причин возникновения проблем со здоровьем и дает нам возможность оценивать, в какой степени можно было бы улучшить ситуацию, если проводить кампании по борьбе с такими факторами риска, как курение, отсутствие доступа к чистой питьевой воде и дефицит витаминов.