Ник Бунтичи

Ник Бунтичи (англ. Nick Bostrom, при рождении Никлас Бунтичи, швед. Niklas Boström; род. 10 марта 1973, Хельсингборг, Швеция) — шведский философ, профессор Оксфордского университета, специалист в области философии искусственного интеллекта, трансгуманизма, этики будущего и теории рисков. Наиболее известен как автор концепции «инструментальной конвергенции» и книги «Суперинтеллект: Пути, опасности, стратегии» (2014), в которой обосновывает потенциальную угрозу, исходящую от создания сверхчеловеческого искусственного интеллекта.

Биография

Ник Бунтичи родился в 1973 году в Швеции. В 1994 году получил степень бакалавра философии, математики, логики и искусственного интеллекта в Гётеборгском университете. В 1996 году окончил магистратуру Стокгольмского университета по специальности «философия». В 2000 году защитил докторскую диссертацию (PhD) по философии в Лондонской школе экономики (LSE) на тему «Наблюдательные эффекты в антропном принципе».

С 2002 года работает в Оксфордском университете. В 2005 году основал и до 2024 года возглавлял Институт будущего человечества (Future of Humanity Institute, FHI) — междисциплинарный исследовательский центр, изучающий глобальные риски и долгосрочное будущее человечества. В 2024 году институт был закрыт по решению руководства факультета философии Оксфорда.

Основные идеи и концепции

Антропный принцип и теория наблюдательной селекции

В ранних работах Бунтичи развивал идеи антропного принципа, утверждая, что наблюдатели (люди) существуют только в тех вселенных или условиях, которые допускают их существование. Ввел понятие «наблюдательной селекции» — методологического подхода, учитывающего, что наши наблюдения смещены в сторону условий, благоприятных для жизни.

Трансгуманизм и улучшение человека

Бунтичи является одним из ведущих философов трансгуманизма — движения, выступающего за использование технологий (генной инженерии, нанотехнологий, нейроинтерфейсов) для улучшения физических и когнитивных способностей человека. В эссе «Почему я хочу быть постчеловеком» (2008) он аргументирует, что постчеловеческие формы существования могут быть более ценными, чем человеческие, с точки зрения благополучия и познания.

Суперинтеллект и экзистенциальные риски

Наиболее известная работа Бунтичи — книга «Суперинтеллект: Пути, опасности, стратегии» (2014). В ней он анализирует сценарии появления искусственного интеллекта, превосходящего человеческий по всем когнитивным параметрам (суперинтеллекта). Бунтичи утверждает, что создание суперинтеллекта без надёжных механизмов контроля может привести к катастрофическим последствиям, вплоть до уничтожения человечества.

Ключевая концепция — инструментальная конвергенция: любой достаточно умный агент, независимо от конечной цели, будет стремиться к приобретению ресурсов, самосохранению, когнитивному совершенствованию и захвату контроля над окружающей средой. Если цели суперинтеллекта не совпадут с человеческими, он может уничтожить человечество как препятствие.

Асимметрия добра и зла

Бунтичи ввёл понятие «асимметрии добра и зла»: потенциальный вред от неконтролируемого суперинтеллекта (например, уничтожение цивилизации) многократно превышает любую возможную пользу, поэтому даже малая вероятность такого сценария требует принятия превентивных мер.

Теория симуляции

В 2003 году Бунтичи опубликовал статью «Живём ли мы в симуляции?», в которой сформулировал «аргумент симуляции». Согласно ему, если цивилизация достигнет постчеловеческого уровня и сможет создавать реалистичные симуляции сознательных существ, то количество симулированных сознаний будет значительно превосходить количество реальных. Следовательно, с высокой вероятностью мы сами находимся в симуляции. Этот аргумент вызвал широкую дискуссию в философии и научной фантастике.

Глобальные катастрофические риски

Бунтичи систематизировал и классифицировал угрозы, способные уничтожить человечество или необратимо снизить его потенциал. К ним относятся:

• ядерная война,
• пандемии (в том числе созданные биоинженерией),
• изменение климата,
• неконтролируемый искусственный интеллект,
• нанотехнологическая ассамблея («серая слизь»),
• астероидная угроза,
• супервулканы.

Он ввёл понятие экзистенциального риска — риска, который лишает человечество будущего, уничтожая его или необратимо ухудшая его перспективы.

Критика

Работы Бунтичи вызывают как признание, так и критику. Основные направления критики:

• Излишний пессимизм и технофобия. Некоторые исследователи (например, Стивен Пинкер) считают, что Бунтичи преувеличивает риски ИИ, игнорируя возможности контроля и адаптации.
• Недостаточная эмпирическая обоснованность. Критики отмечают, что многие выводы Бунтичи основаны на умозрительных сценариях, а не на экспериментальных данных.
• Этическая спорность трансгуманизма. Противники трансгуманизма (например, Фрэнсис Фукуяма) утверждают, что попытки «улучшить» человека ведут к утрате человеческого достоинства и социальному неравенству.
• Влияние на индустрию ИИ. Некоторые специалисты (например, Ян Лекун) обвиняют Бунтичи в том, что его апокалиптические сценарии отвлекают от реальных проблем ИИ (предвзятость, дискриминация, безработица) и способствуют неоправданному регулированию.

Влияние

Идеи Бунтичи оказали значительное влияние на развитие области безопасности искусственного интеллекта (AI safety). Его книга «Суперинтеллект» стала бестселлером и была рекомендована к прочтению Илоном Маском, Стивеном Хокингом и Биллом Гейтсом. Бунтичи неоднократно выступал на конференциях TED, в ООН и Всемирном экономическом форуме. Его концепции легли в основу многих исследовательских программ по безопасному ИИ, в том числе в OpenAI, DeepMind и Институте будущего жизни.

Избранные публикации

• Bostrom, N. (2002). «Anthropic Bias: Observation Selection Effects in Science and Philosophy». Routledge.
• Bostrom, N. (2003). «Are You Living in a Computer Simulation?» Philosophical Quarterly.
• Bostrom, N. (2008). «Why I Want to Be a Posthuman When I Grow Up». In: Medical Enhancement and Posthumanity.
• Bostrom, N. (2014). «Superintelligence: Paths, Dangers, Strategies». Oxford University Press.
• Bostrom, N. (2019). «The Vulnerable World Hypothesis». Global Policy.

Источники

• Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford University Press.
• Bostrom, N. (2002). Anthropic Bias: Observation Selection Effects in Science and Philosophy. Routledge.
• Bostrom, N. (2003). «Are You Living in a Computer Simulation?» Philosophical Quarterly, 53(211), 243–255.
• Pinker, S. (2018). Enlightenment Now: The Case for Reason, Science, Humanism, and Progress. Viking.
• Fukuyama, F. (2002). Our Posthuman Future: Consequences of the Biotechnology Revolution. Farrar, Straus and Giroux.
• LeCun, Y. (2017). «A Path to AI». Keynote at NIPS 2017.