Почему будущее не нуждается в нас¶

«Почему будущее не нуждается в нас» (англ. Why the Future Doesn’t Need Us) — эссе американского учёного и инженера в области робототехники Билла Джоя, опубликованное в апрельском номере журнала Wired за 2000 год. Статья стала одним из наиболее цитируемых и обсуждаемых текстов начала XXI века, посвящённых потенциальным угрозам, связанным с развитием технологий — в первую очередь генной инженерии, нанотехнологий и робототехники (GNR-технологии).

¶История создания

Билл Джой (род. 1954) — один из сооснователей компании Sun Microsystems, главный учёный по программному обеспечению. В конце 1990-х годов, после знакомства с работами футурологов Рэя Курцвейла и Ханса Моравека, а также под влиянием идей о технологической сингулярности, Джой начал размышлять о возможных негативных последствиях ускоряющегося научно-технического прогресса. Поводом для написания эссе послужила личная встреча с Курцвейлом, который предсказывал появление сверхразумного искусственного интеллекта к 2030 году. Джой, напротив, пришёл к выводу, что бесконтрольное развитие технологий может привести к уничтожению человечества или лишению его свободы.

Статья была опубликована в журнале Wired в апреле 2000 года и сразу вызвала широкий резонанс. Позднее она была переведена на многие языки, включая русский, и неоднократно переиздавалась в сборниках по футурологии и этике технологий.

¶Основные тезисы

¶Триада GNR

Джой выделяет три ключевые технологические области, которые, по его мнению, представляют наибольшую опасность для человечества:

• Генная инженерия (G) — возможность создания новых патогенов, генетически модифицированных организмов, а также изменение наследственности человека. Джой указывает, что биотехнологии могут быть использованы для создания «биологического оружия массового поражения», доступного отдельным лицам или небольшим группам.
• Нанотехнологии (N) — молекулярное производство, способное создавать материалы и устройства на атомном уровне. Джой предупреждает о возможности появления самовоспроизводящихся нанороботов (так называемая «серая слизь»), которые могут выйти из-под контроля и уничтожить биосферу.
• Робототехника (R) — создание автономных интеллектуальных машин, способных действовать без участия человека. Джой опасается, что искусственный интеллект может превзойти человеческий и либо уничтожить людей, либо сделать их ненужными.

¶Отличие от ядерной угрозы

Джой проводит сравнение с ядерным оружием, которое, по его мнению, было относительно безопасным благодаря сложности производства и контроля со стороны государств. В отличие от него, технологии GNR обладают следующими особенностями:

• Доступность — для работы с генной инженерией или нанотехнологиями не требуется огромных ресурсов; лабораторное оборудование становится всё дешевле и компактнее.
• Самовоспроизводство — многие технологии GNR могут создавать свои копии, что делает их распространение лавинообразным и трудно контролируемым.
• Отсутствие эффективной защиты — в отличие от ядерной войны, где возможна эвакуация или укрытие, против нанороботов или генетических патогенов защита практически невозможна.

¶Критика технооптимизма

Джой критикует господствующий в научной среде и среди футурологов технооптимизм — веру в то, что любые проблемы, создаваемые технологиями, будут решены с помощью ещё более совершенных технологий. Он утверждает, что такой подход игнорирует фундаментальные риски и может привести к катастрофе. В качестве альтернативы Джой предлагает:

• Добровольный отказ от разработки опасных технологий или их ограничение на международном уровне.
• Развитие этики и гуманитарного контроля над наукой.
• Создание «защищённых зон» (например, запрет на самовоспроизводящиеся нанороботы).

¶Влияние и критика

¶Общественный резонанс

Эссе «Почему будущее не нуждается в нас» стало одним из самых обсуждаемых текстов в истории журнала Wired. Оно вызвало бурные дебаты в научных, технологических и философских кругах. Многие эксперты, включая Рэя Курцвейла и футуролога Элвина Тоффлера, выступили с опровержениями, утверждая, что Джой преувеличивает опасности и игнорирует потенциальные выгоды технологий.

¶Критика со стороны футурологов

• Рэй Курцвейл в книге «Сингулярность уже близко» (2005) назвал опасения Джоя «апокалиптическими» и указал, что человечество сможет контролировать технологии с помощью самого же искусственного интеллекта.
• Элвин Тоффлер отмечал, что Джой недооценивает способность общества адаптироваться к новым вызовам.
• Фрэнсис Фукуяма в книге «Наше постчеловеческое будущее» (2002) частично согласился с Джоем, но сосредоточился на биотехнологиях, а не на нанотехнологиях и робототехнике.

¶Критика со стороны учёных

• Эрик Дрекслер, один из пионеров нанотехнологий, в ответ на эссе Джоя написал статью «Безопасность нанотехнологий» (2004), где утверждал, что «серая слизь» — это лишь одна из возможных сценариев, и её можно предотвратить с помощью правильного проектирования.
• Родни Брукс, бывший директор Лаборатории искусственного интеллекта Массачусетского технологического института, назвал предсказания Джоя «научной фантастикой» и указал, что современные роботы далеки от автономного интеллекта.

¶Влияние на политику и общество

Несмотря на критику, эссе Джоя оказало значительное влияние на общественное восприятие технологических рисков. Оно способствовало:

• Усилению дискуссий о необходимости регулирования нанотехнологий и биотехнологий.
• Появлению концепции «превентивного принципа» в науке.
• Развитию движения «трансгуманизм» с его критической ветвью, предупреждающей об опасностях.

¶Современное значение

В XXI веке темы, поднятые Джоем, стали ещё более актуальными. Развитие искусственного интеллекта (например, нейросети GPT, системы распознавания лиц, автономное оружие), генной инженерии (CRISPR/Cas9) и нанотехнологий (наномедицина, наноматериалы) подтверждает многие его опасения. В то же время, ни одна из предсказанных катастроф пока не произошла, что даёт основания для оптимизма.

В России эссе Джоя активно обсуждается в среде футурологов, философов и специалистов по информационной безопасности. В 2020-х годах тема «технологической сингулярности» и связанных с ней рисков стала частью образовательных программ по философии науки и техники в ряде российских вузов.

¶Источники

• Bill Joy, «Why the Future Doesn’t Need Us», Wired, April 2000.
• Ray Kurzweil, «The Singularity Is Near: When Humans Transcend Biology», Viking, 2005.
• Eric Drexler, «Engines of Creation: The Coming Era of Nanotechnology», Anchor Books, 1986.
• Francis Fukuyama, «Our Posthuman Future: Consequences of the Biotechnology Revolution», Farrar, Straus and Giroux, 2002.
• Rodney Brooks, «Flesh and Machines: How Robots Will Change Us», Pantheon Books, 2002.