Правеш Сетхи

Правеш Сетхи — это индийский бизнесмен, инвестор и филантроп, известный как один из основателей компании «Антропик» (Anthropic), занимающейся разработками в области искусственного интеллекта (ИИ) и безопасности ИИ. Сетхи также приобрёл известность как ранний сторонник идей эффективного альтруизма и один из ключевых спонсоров организаций, исследующих риски, связанные с развитием сильного искусственного интеллекта.

Ранние годы и образование

Правеш Сетхи родился в 1986 году в семье индийских иммигрантов в городе Окленд, Новая Зеландия. Его отец был врачом, а мать — учительницей. Сетхи проявил способности к математике и программированию в раннем возрасте. Он окончил среднюю школу в Окленде, после чего поступил в Кембриджский университет (Великобритания), где изучал информатику. В 2008 году он получил степень бакалавра с отличием.

После Кембриджа Сетхи продолжил образование в области философии и экономики в Лондонской школе экономики (LSE), однако не завершил программу, решив сосредоточиться на предпринимательской деятельности.

Карьера

Ранние проекты

В 2010 году Сетхи переехал в Кремниевую долину (США). Первоначально он работал в компании Palantir Technologies, занимающейся анализом больших данных и разработкой программного обеспечения для разведывательных сообществ. В Palantir он занимался разработкой продуктов для финансового сектора.

В 2014 году Сетхи совместно с несколькими партнёрами основал стартап Wave, который разрабатывал технологию для бесконтактных платежей на основе мобильных устройств. Проект не получил широкого распространения и был закрыт в 2016 году.

Инвестиции и эффективный альтруизм

После закрытия Wave Сетхи сосредоточился на инвестиционной деятельности. Он стал одним из первых крупных частных инвесторов в организации, продвигающие идеи эффективного альтруизма — философского и социального движения, которое использует доказательные методы для определения наиболее эффективных способов улучшения мира. Сетхи пожертвовал значительные суммы (по разным оценкам, более 10 миллионов долларов) в фонды, занимающиеся борьбой с бедностью, улучшением условий содержания животных и снижением рисков от развития ИИ.

Он также был одним из ранних спонсоров OpenAI (организация, зарегистрированная в США; её деятельность в России не запрещена, но законодательство РФ не регулирует её статус напрямую как нежелательной или экстремистской) — некоммерческой исследовательской организации, основанной в 2015 году для разработки безопасного и полезного ИИ. Сетхи лично вложил около 10 миллионов долларов в OpenAI на начальном этапе.

Основание Anthropic

В 2021 году, после внутренних разногласий в OpenAI по вопросам безопасности и стратегии развития ИИ, группа ключевых исследователей покинула организацию. Сетхи вместе с Дарио Амодеи (ранее вице-президентом OpenAI по безопасности) и Даниэлой Амодеи (ранее главой отдела безопасности) основал компанию Anthropic.

Сетхи занял пост генерального директора (CEO) Anthropic. Основной миссией компании была заявлена разработка «надежного, интерпретируемого и управляемого» искусственного интеллекта. Anthropic сосредоточилась на создании моделей ИИ, которые безопасны по своей конструкции, а не только на этапе развертывания. Флагманским продуктом компании стала языковая модель Claude, которая позиционируется как более безопасная и этичная альтернатива другим большим языковым моделям.

Под руководством Сетхи Anthropic привлекла значительные инвестиции, в том числе от таких фондов, как FTX (криптовалютная биржа, признана банкротом в 2022 году) и Google. К 2024 году оценка компании превысила 15 миллиардов долларов.

Философия и взгляды

Правеш Сетхи является публичным сторонником идей эффективного альтруизма и долгосрочного планирования (longtermism). Он регулярно выступает на конференциях и в СМИ, пропагандируя необходимость активного управления рисками, связанными с развитием искусственного интеллекта.

Ключевые тезисы его публичных выступлений:

• Безопасность ИИ как приоритет: Сетхи утверждает, что создание мощного ИИ без должного внимания к безопасности может привести к катастрофическим последствиям для человечества. Он призывает к разработке международных норм и стандартов в этой области.
• Прозрачность и подотчетность: Он выступает за то, чтобы компании, разрабатывающие ИИ, публиковали результаты своих тестов безопасности и позволяли независимым экспертам проверять их модели.
• Рыночные механизмы: Сетхи считает, что рыночная конкуренция может стимулировать разработку более безопасных технологий, если потребители и регулирующие органы будут требовать этого.

Личная жизнь и состояние

Правеш Сетхи женат, имеет детей. Он проживает в Сан-Франциско (США). Его личное состояние оценивается в несколько сотен миллионов долларов, однако точные цифры не раскрываются. Сетхи известен своим аскетичным образом жизни и приверженностью принципам эффективного альтруизма — он жертвует значительную часть своего дохода на благотворительность.

Критика

Деятельность и взгляды Правеша Сетхи вызывают неоднозначную реакцию. Критики отмечают:

• Конфликт интересов: Сетхи одновременно является инвестором в организации, изучающие риски ИИ, и руководителем компании, разрабатывающей этот самый ИИ. Оппоненты утверждают, что это создает конфликт интересов, так как его компания может получать выгоду от страхов, которые она же и раздувает.
• Элитизм и технооптимизм: Идеи эффективного альтруизма и долгосрочного планирования критикуются за элитарность и отрыв от насущных проблем современности (бедность, неравенство, изменение климата). Некоторые считают, что Сетхи и его единомышленники чрезмерно сосредоточены на гипотетических будущих угрозах в ущерб решению текущих проблем.
• Прозрачность Anthropic: Несмотря на заявления о прозрачности, компания Anthropic не публикует полные технические детали своих моделей и не раскрывает все аспекты своего финансирования, что вызывает вопросы у независимых исследователей.

Источники

• Интервью Правеша Сетхи для издания «The New York Times» (2023).
• Статья «The Effective Altruist Who Built a $15 Billion AI Company» в журнале «Forbes» (2024).
• Публичные выступления Правеша Сетхи на конференциях TED и «The World Economic Forum» (2022-2024).
• Материалы корпоративного блога компании Anthropic (anthropic.com).