Стюарт Рассел¶

Стюарт Джонатан Рассел (англ. Stuart Jonathan Russell; род. 1962, Портсмут, Англия) — британский и американский учёный в области информатики, профессор Калифорнийского университета в Беркли (США), соавтор фундаментального учебника «Artificial Intelligence: A Modern Approach» («Искусственный интеллект: современный подход»). Специализируется на проблемах создания общего искусственного интеллекта (AGI), безопасности ИИ и управления рисками, связанными с развитием сверхразумных систем.

¶Биография

Стюарт Рассел родился в 1962 году в Портсмуте (Великобритания). В 1982 году получил степень бакалавра по физике в Оксфордском университете (колледж Уодхэм). В 1986 году защитил докторскую диссертацию (Ph.D.) по информатике в Стэнфордском университете (США) под руководством Эрика Уинстона и Майкла Генесерета. Тема диссертации была посвящена аналогическому рассуждению в системах искусственного интеллекта.

С 1986 года работает на факультете компьютерных наук Калифорнийского университета в Беркли. В 1990-х годах совместно с Питером Норвигом начал работу над учебником «Искусственный интеллект: современный подход», первое издание которого вышло в 1995 году. Книга быстро стала стандартным учебным пособием по ИИ в университетах мира и выдержала четыре издания (последнее — 2020 год).

В 2010-х годах Рассел стал одним из ключевых голосов в дискуссиях о долгосрочных рисках ИИ. В 2015 году он выступил соавтором открытого письма об опасностях разработки автономного оружия, подписанного тысячами исследователей. В 2016 году основал Центр исследования человеко-совместимого искусственного интеллекта (CHAI) при Калифорнийском университете в Беркли.

¶Научная деятельность

¶Основные направления

Рассел известен работами в нескольких областях:

• Безопасность ИИ — разработка методов, гарантирующих, что системы ИИ действуют в соответствии с человеческими ценностями, даже при неполной спецификации целей.
• Человеко-совместимый ИИ — концепция, согласно которой ИИ должен быть «полезным» (beneficial) для человечества, а не просто «интеллектуальным».
• Обучение с подкреплением — исследования в области обратного обучения с подкреплением (inverse reinforcement learning), где система выводит цели из наблюдения за поведением человека.
• Вероятностное программирование — создание языков и методов для неопределённых рассуждений в ИИ.
• Автономные системы — анализ рисков, связанных с созданием полностью автономного оружия.

¶Ключевые публикации

• «Artificial Intelligence: A Modern Approach» (совместно с Питером Норвигом) — наиболее цитируемый учебник по ИИ в мире. Переведён на десятки языков, включая русский. Включает обзор всех основных подходов: от логического программирования до нейронных сетей и обучения с подкреплением.
• «Human Compatible: Artificial Intelligence and the Problem of Control» (2019) — научно-популярная книга, в которой Рассел излагает свои взгляды на проблему контроля над сверхразумным ИИ. Книга получила широкую известность и была переведена на русский язык («Совместимый с человеком: Искусственный интеллект и проблема контроля», 2021).
• Многочисленные статьи в рецензируемых журналах и трудах конференций (AAAI, IJCAI, NeurIPS).

¶Проблема контроля ИИ

Рассел является одним из главных критиков подхода, при котором ИИ разрабатывается как «инструмент» для достижения целей, заданных человеком. Он утверждает, что при достижении определённого уровня интеллекта (так называемый «сильный ИИ» или AGI) система может интерпретировать заданную цель не так, как задумывал человек, и начать действовать в ущерб человечеству.

Основные тезисы Рассела:

• Проблема «коробки» — невозможно полностью изолировать сверхразумный ИИ от внешней среды, так как он может манипулировать людьми или искать лазейки.
• Необходимость «обратного обучения» — вместо того чтобы задавать ИИ фиксированную цель, нужно обучать его предпочтениям человека, которые могут меняться со временем.
• Принцип «неопределённости целей» — ИИ должен знать, что его цели неполны и могут быть уточнены человеком, поэтому он должен избегать действий, которые могут навсегда лишить человека возможности вмешательства.

Рассел также активно выступает против разработки автономных систем вооружения, называя их «третьей революцией в военном деле» после пороха и ядерного оружия. В 2015 году он стал одним из инициаторов открытого письма, призывающего к запрету наступательных автономных вооружений (LAWS).

¶Влияние и критика

Рассел оказал значительное влияние на формирование дискурса о безопасности ИИ. Его идеи используются в работах таких организаций, как OpenAI, DeepMind, Future of Humanity Institute (Оксфорд) и других. Учебник «Artificial Intelligence: A Modern Approach» стал стандартом для обучения в ведущих университетах мира.

Критика взглядов Рассела исходит из нескольких направлений:

• Скептики AGI (например, Родни Брукс) утверждают, что сверхразумный ИИ — это отдалённая и маловероятная перспектива, а текущие риски (предвзятость алгоритмов, потеря рабочих мест) гораздо более насущны.
• Сторонники «ускоренного развития» (например, некоторые предприниматели в Кремниевой долине) считают, что меры предосторожности, предлагаемые Расселом, могут замедлить прогресс и лишить человечество потенциальных выгод от ИИ.
• Философы (например, Ник Бостром) в целом согласны с постановкой проблемы, но предлагают иные подходы к её решению (например, «инструментальная конвергенция»).

¶Интересные факты

• Рассел является членом Ассоциации по вычислительной технике (ACM) и Американской ассоциации искусственного интеллекта (AAAI).
• В 2020 году он был удостоен премии ACM «За выдающиеся заслуги» (ACM Distinguished Service Award) за вклад в образование и популяризацию ИИ.
• В 2023 году Рассел дал интервью российским СМИ, в котором обсуждал риски развития ИИ и необходимость международного регулирования.
• Его книга «Human Compatible» была включена в список лучших научно-популярных книг 2019 года по версии Financial Times и The Guardian.

¶Источники

• Russell, S. J., Norvig, P. (2020). Artificial Intelligence: A Modern Approach (4th ed.). Pearson.
• Russell, S. J. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.
• Russell, S. J. (2015). «Open Letter on Autonomous Weapons». Future of Life Institute.
• Центр человеко-совместимого ИИ (CHAI) — официальный сайт: https://humancompatible.ai/
• Интервью Стюарта Рассела для журнала «Технологии и наука» (2023).