Элиезер Юдковский¶
Элиезер Юдковский — американский исследователь в области искусственного интеллекта, писатель и блогер, один из основателей Института Машинного Интеллекта (MIRI) и сторонник теории «выравнивания ИИ» (AI alignment). Известен работами по теории рациональности, криптоэкономике, а также публикациями о рисках суперинтеллекта.
¶Биография
Элиезер Шломо Юдковский (Eliezer Shlomo Yudkowsky) родился 11 сентября 1979 года в США. В 1990-х годах, будучи подростком, начал публиковать статьи по теории искусственного интеллекта и эпистемологии в сети. В 2000 году стал одним из сооснователей Института Машинного Интеллекта (Machine Intelligence Research Institute, MIRI) — некоммерческой организации, занимающейся исследованием методов создания безопасного искусственного интеллекта. Юдковский не имеет формального высшего образования, что отмечается в публичных обсуждениях его биографии.
¶Исследования по ИИ и выравниванию
Основной вклад Юдковского — в область выравнивания искусственного интеллекта (AI alignment), то есть проблему обеспечения того, чтобы цели суперинтеллекта соответствовали интересам людей. В 2001 году он опубликовал серию эссе «Сложность, сила и разум» (Complexity, Power and Intelligence), а позднее — цикл статей «Разум: Сложность и сила» (Mind: Complexity and Power). В 2010-х годах стал автором блога «Less Wrong», где разрабатывал темы рациональности и рисков ИИ. В 2015 году опубликовал книгу «Разум: Разум и сила» (не путать с эссе) — на русском известна как «Разум: Разум и сила».
¶Криптоэкономика и «Древо жизни»
В 2014 году Юдковский выступил с инициативой «Древо жизни» (Tree of Life) — проекта по созданию криптовалюты, основанной на доказательстве полезности работы (proof-of-useful-work), где майнеры решали бы полезные вычислительные задачи. Проект не был реализован в полном объёме, но идеи повлияли на дальнейшие исследования в области криптоэкономики.
¶Публичная деятельность
Юдковский активно участвует в дискуссиях об опасностях искусственного интеллекта. В 2023 году подписал открытое письмо с призывом к приостановке разработки систем ИИ, превосходящих GPT-4. Он также известен как автор термина «дружественный ИИ» (Friendly AI) и концепции «взрыва интеллекта» (intelligence explosion), которую развивал на основе идей И. Дж. Гуда.
¶Основные работы
- «Разум: Разум и сила» (2015)
- Статьи на Less Wrong
- Эссе о выравнивании ИИ
¶Источники
- Machine Intelligence Research Institute
- Less Wrong
- The New Yorker, «The AI Alignment Problem»
- Time, «The 100 Most Influential People in AI»