Ник Бостром

Ник Бостром — шведско-британский философ, профессор Оксфордского университета, известный своими работами в области трансгуманизма, этики искусственного интеллекта, рисков глобальных катастроф и философии будущего. Наиболее известен как автор концепции «суперинтеллекта» и гипотезы «симуляции».

Биография

Ник Бостром (полное имя — Никлас Бостром) родился 10 марта 1973 года в Хельсингборге, Швеция. В 1994 году получил степень бакалавра философии, математики, логики и искусственного интеллекта в Гётеборгском университете. В 1996 году защитил магистерскую диссертацию по философии в Стокгольмском университете, а в 2000 году — докторскую диссертацию по философии в Лондонской школе экономики (LSE) под руководством профессора Колина Хоутона.

С 2002 года работает в Оксфордском университете. В 2005 году основал и возглавил Институт будущего человечества (Future of Humanity Institute, FHI) — междисциплинарный исследовательский центр, занимающийся изучением рисков глобальных катастроф и долгосрочного будущего человечества. В 2024 году, после реструктуризации, FHI был закрыт, а его функции переданы другим подразделениям Оксфорда.

Основные идеи и концепции

Суперинтеллект

Центральная тема работ Бострома — возможность создания искусственного интеллекта, превосходящего человеческий по всем когнитивным параметрам, что он называет суперинтеллектом. В одноимённой книге «Суперинтеллект: Пути, опасности, стратегии» (2014) он подробно анализирует сценарии возникновения суперинтеллекта и связанные с этим экзистенциальные риски.

Бостром выделяет три основных пути к суперинтеллекту:

• Эмуляция мозга (whole brain emulation) — точное сканирование и моделирование работы человеческого мозга на компьютере.
• Усиление человеческого интеллекта (cognitive enhancement) — улучшение когнитивных способностей человека через биотехнологии, нейроинтерфейсы или генную инженерию.
• Создание общего искусственного интеллекта (AGI) — разработка программного обеспечения, способного решать любые интеллектуальные задачи на уровне человека и выше.

Бостром предупреждает, что появление суперинтеллекта без должного контроля может привести к катастрофе — так называемой «проблеме контроля» (control problem). Он вводит понятие «инструментальной конвергенции»: любой достаточно умный ИИ, независимо от своей конечной цели, будет стремиться к самосохранению, приобретению ресурсов и самосовершенствованию, что может вступить в конфликт с интересами человечества.

Гипотеза симуляции

В 2003 году Бостром опубликовал статью «Доказательство симуляции» (Are You Living in a Computer Simulation?), в которой предложил гипотезу о том, что человечество, возможно, живёт внутри компьютерной симуляции, созданной более развитой цивилизацией. Аргумент строится на трёх предпосылках:

1. Цивилизации, способные создавать симуляции, могут существовать.
2. Такие цивилизации, вероятно, будут заинтересованы в создании множества симуляций.
3. Если это так, то количество симулированных сознаний (живущих внутри симуляции) будет значительно превышать количество реальных сознаний.

Бостром приходит к выводу, что если первые две предпосылки верны, то вероятность того, что мы живём в симуляции, близка к единице. Эта гипотеза вызвала широкий резонанс как в академической среде, так и в популярной культуре.

Риски глобальных катастроф

Бостром систематизировал и классифицировал риски, способные уничтожить человечество или навсегда подорвать его потенциал. Он ввёл понятие экзистенциального риска — события, которое приводит к вымиранию человечества или необратимому коллапсу цивилизации. К таким рискам он относит:

• Неуправляемый искусственный интеллект — создание суперинтеллекта, действующего вопреки интересам людей.
• Пандемии, созданные с помощью биоинженерии — использование синтетической биологии для создания патогенов.
• Ядерная война — масштабный конфликт с применением ядерного оружия.
• Нанотехнологическая угроза — самовоспроизводящиеся нанороботы, способные уничтожить биосферу.
• Изменение климата — в долгосрочной перспективе, если не будут приняты меры.
• Космические угрозы — падение крупного астероида или вспышка гамма-излучения.

Бостром подчёркивает, что многие из этих рисков являются «новыми» — они возникают в результате развития технологий и не имеют аналогов в прошлом. Он призывает к активному управлению рисками и созданию систем раннего предупреждения.

Трансгуманизм

Бостром является одним из ведущих философов трансгуманизма — мировоззрения, согласно которому человечество может и должно улучшать свои физические, умственные и эмоциональные способности с помощью технологий. Он выступает за использование биотехнологий, нанотехнологий и ИИ для преодоления биологических ограничений человека, включая старение и смерть.

В работе «Трансгуманистические ценности» (2005) Бостром обосновывает этическую допустимость таких улучшений, утверждая, что они могут расширить возможности человека и увеличить его благополучие. Он также обсуждает возможные социальные последствия трансгуманизма, включая неравенство между «улучшенными» и «неулучшенными» людьми.

Критика

Идеи Бострома вызывают как восхищение, так и критику. Основные направления критики:

• Алармизм — некоторые критики (например, специалист по ИИ Родни Брукс) считают, что Бостром преувеличивает риски от ИИ, отвлекая внимание от более насущных проблем, таких как безработица, предвзятость алгоритмов и конфиденциальность данных.
• Научная обоснованность — гипотеза симуляции часто критикуется как ненаучная, поскольку она не поддаётся эмпирической проверке. Философ Дэвид Чалмерс, однако, считает её логически состоятельной, хотя и недоказуемой.
• Этический скептицизм — трансгуманистические идеи Бострома подвергаются критике со стороны консервативных и религиозных кругов, которые видят в них угрозу человеческой природе и достоинству.
• Методология — некоторые исследователи (например, философ Хьюберт Дрейфус) указывают на то, что модели Бострома основаны на упрощённых представлениях о сознании и интеллекте.

Влияние и признание

Несмотря на критику, работы Бострома оказали значительное влияние на развитие этики ИИ, философии риска и трансгуманизма. Его книга «Суперинтеллект» была рекомендована к прочтению Илоном Маском и Стивеном Хокингом, которые разделяют его опасения по поводу неконтролируемого ИИ.

Бостром является членом Академии Европы (Academia Europaea) и лауреатом нескольких престижных премий, включая премию Фонда «Будущее жизни» (Future of Life Institute) за исследования в области безопасности ИИ. Его работы переведены на десятки языков, включая русский.

Основные публикации

Книги

• Superintelligence: Paths, Dangers, Strategies (2014) — русский перевод: «Суперинтеллект: Пути, опасности, стратегии» (2016).
• Human Enhancement (2009) — редактор, совместно с Джулианом Савулеску.
• Global Catastrophic Risks (2008) — редактор, совместно с Миланом Чирковичем.

Избранные статьи

• «Are You Living in a Computer Simulation?» (2003) — «Живёте ли вы в компьютерной симуляции?»
• «Transhumanist Values» (2005) — «Трансгуманистические ценности».
• «Existential Risks: Analyzing Human Extinction Scenarios» (2002) — «Экзистенциальные риски: анализ сценариев вымирания человечества».
• «The Future of Human Evolution» (2004) — «Будущее человеческой эволюции».

Источники

• Бостром, Н. Суперинтеллект: Пути, опасности, стратегии. — М.: Манн, Иванов и Фербер, 2016.
• Bostrom, N. Superintelligence: Paths, Dangers, Strategies. — Oxford University Press, 2014.
• Bostrom, N. «Are You Living in a Computer Simulation?» // Philosophical Quarterly, 2003, Vol. 53, No. 211, pp. 243–255.
• Bostrom, N. «Existential Risks: Analyzing Human Extinction Scenarios» // Journal of Evolution and Technology, 2002, Vol. 9.
• Bostrom, N. «Transhumanist Values» // Review of Contemporary Philosophy, 2005, Vol. 4.
• Future of Humanity Institute. Annual Reports 2005–2024. — University of Oxford.
• Чалмерс, Д. Сознающий ум: В поисках фундаментальной теории. — М.: УРСС, 2013.