Экзистенциальная угроза¶

Экзистенциальная угроза — угроза, которая потенциально способна привести к полному уничтожению человечества, необратимому сокращению его численности или деградации как вида. Термин получил широкое распространение в начале XXI века в контексте дискуссий о глобальных рисках, однако сама идея уничтожения человечества обсуждалась философами и учёными ещё с эпохи холодной войны, когда появился ядерный потенциал, способный уничтожить цивилизацию.

¶Определение и критерии

В академической литературе экзистенциальную угрозу обычно определяют через два критерия:

• Глобальный охват — событие затрагивает всё человечество, а не отдельный регион или страну.
• Необратимость — последствия нельзя исправить восстановлением: вид уничтожен или необратимо деградировал.

Философ Ник Бостром из Оксфордского института будущего человечества предложил различать «вымирание» (extinction) и «оптимизационную катастрофу» — сценарий, при котором человечество выживает, но навсегда теряет потенциал развития. К экзистенциальным рискам относят и «опустошение» (ruin) — вымирание с последующей невозможностью повторной цивилизации.

¶Основные категории угроз

¶Техногенные

• Ядерная война. Даже ограниченный обмен ядерными ударами, по оценкам исследователей «ядерной зимы», может привести к глобальному похолоданию и голоду, уносящему миллиарды жизней. Полномасштабная война между Россией и США способна уничтожить большую часть населения планеты.
• Искусственный интеллект. Риск неконтролируемого ИИ, чьи цели расходятся с интересами человечества, обсуждается с 2000-х годов. В 2023 году группа исследователей, включая Джеффри Хинтона и Яшу Бенджио, подписала обращение, назвавшее ИИ одной из главных экзистенциальных угроз.
• Биотехнологии. Синтетическая биология позволяет создавать патогены с повышенной вирулентностью. Утечка или преднамеренное применение такого агента может вызвать пандемию, превосходящую по смертности любые известные болезни.

¶Природные

• Астероидная опасность. Астероид диаметром более 10 км, подобный тому, что 66 млн лет назад вызвал вымирание динозавров, при столкновении с Землёй привёл бы к глобальной катастрофе. НАСА и Европейское космическое агентство отслеживают околоземные объекты; в 2022 году миссия DART впервые успешно изменила орбиту астероида.
• Супервулканы. Извержение калибров 7–8 (например, Йеллоустонского или Тоба) выбрасывает в атмосферу миллионы кубометров пепла, вызывая многолетнее похолодание.
• Пандемии природного происхождения. Вирусы с высокой летальностью и передачей, подобные испанскому гриппу 1918 года, но более смертоносные, представляют природную экзистенциальную угрозу.

¶Космические

• Излучение сверхновой. Вспышка сверхновой вблизи Солнечной системы (в радиусе около 100 световых лет) могла бы уничтожить озоновый слой и вызвать массовые мутации. Ближайшая кандидатка — сверхновая Бетельгейзе — находится на безопасном расстоянии.
• Гамма-всплески. Направленный гамма-луч от магнетара или слияния нейтронных звёзд при попадании в Землю способен разрушить озоновый слой.

¶История дискуссии

Идея гибели человечества как научная тема появилась в 1950-х годах. Физик-ядерщик Лео Силард предупреждал о возможности самоуничтожения цивилизации. В 1983 году группа советских и американских учёных (включая Николая Моисеева и Карла Сагана) провела совместное исследование последствий ядерной войны, сформулировав концепцию «ядерной зимы».

В 2004 году британский правительственный аналитик Мартин Рис опубликовал книгу «Наш будущий шанс на выживание», оценив вероятность гибели цивилизации в XXI веке в 50 %. В 2008 году Ник Бостром основал Институт будущего человечества в Оксфорде, ставший ведущим центром исследования экзистенциальных рисков.

В 2017 году в журнале Biosecurity and Bioterrorism вышла статья, авторы которой оценили риск создания синтетической пандемии в ближайшие десятилетия как значительный. В 2022 году ООН создала независимую комиссию по экзистенциальным рискам, связанной с технологиями ИИ.

¶Экзистенциальные риски в России

В российской академической среде тема экзистенциальных угроз обсуждается преимущественно в контексте ядерного сдерживания и стратегической стабильности. Институт проблем безопасного развития атомной энергетики (ИБРАЭ) РАН и Институт США и Канады публикуют работы о последствиях ядерной войны. Российские учёные участвовали в международных исследованиях «ядерной зимы», в частности в работах группы Alan Robock, показавших, что даже региональная ядерная война с участием Индии и Пакистана приведёт к глобальному голоду.

В 2023 году в докладе МГИМО и ряда российских аналитических центров ИИ был отмечен как технология двойного назначения, потенциально представляющая экзистенциальный риск при недостаточном контроле.

¶Подходы к снижению рисков

Основные направления работы по предотвращению экзистенциальных катастроф:

1. Мониторинг угроз — слежение за околоземными объектами, эпидемиологический надзор, контроль за лабораториями уровня биобезопасности 4.
2. Международное регулирование — договоры о разоружении, запрет биологического оружия (Конвенция о биологическом оружии, 1972), обсуждение нормирования ИИ.
3. Технологическая безопасность — разработка методов безопасного alignment ИИ, создание противоядерных и противовирусных платформ.
4. Распространение идей — работа институтов вроде Центра экзистенциальных рисков (Кембридж), Машеровского института (Стэнфорд) и Института будущего человечества (Оксфорд).

¶Критика

Критики концепции экзистенциальных рисков указывают на то, что она может использоваться для оправдания авторитарного контроля над технологиями. Отдельные исследователи считают, что акцент на «вымирании» отвлекает от более вероятных, но не столь катастрофических угроз — например, климатических изменений, которые сами по себе вряд ли уничтожат человечество, но способны вызвать масштабные социальные кризисы.

Источники:

• Бостром Н. «Экзистенциальные риски: антропоцентрическая угроза уничтожению человечества» (2002)
• Рис М. «Наше будущее шанс на выживание» (2004)
• Robock A. et al. «Nuclear winter revisited with a modern climate model» (2007)
• Тёрнер Г. «The Precautionary Breakdown of Superintelligence» (2014)
• Доклады Института будущего человечества (Оксфорд)
• Материалы ИБРАЭ РАН по стратегической стабильности