Открыть сервис
Главная → Блог → Anthropic

Anthropic

Anthropic — американская компания, занимающаяся исследованиями в области искусственного интеллекта (ИИ), специализирующаяся на разработке безопасных и интерпретируемых моделей ИИ. Основана в 2021 году бывшими сотрудниками OpenAI. Компания известна созданием семейства языковых моделей Claude, ориентированных на безопасность и соответствие человеческим ценностям.

История

Основание и предпосылки

Компания была основана в 2021 году в Сан-Франциско группой исследователей и инженеров, покинувших OpenAI. Ключевыми фигурами стали Дарио Амодеи (бывший вице-президент OpenAI по безопасности) и Даниэла Амодеи (бывший руководитель отдела безопасности). Основной причиной ухода стали разногласия в подходах к безопасности ИИ: основатели Anthropic считали, что OpenAI недостаточно сосредоточена на долгосрочных рисках, связанных с развитием мощных систем ИИ.

Первые годы и финансирование

В 2021 году компания привлекла начальное финансирование в размере 124 миллионов долларов от инвесторов, включая Skype-сооснователя Джаана Таллина. В 2022 году последовал раунд финансирования на 580 миллионов долларов, возглавленный криптовалютной биржей FTX (организация ликвидирована, её основатели осуждены за мошенничество в США). После краха FTX в конце 2022 года компания столкнулась с неопределённостью, но сумела пересмотреть условия финансирования.

Развитие и рост

В 2023 году Anthropic получила крупные инвестиции от Google (около 2 миллиардов долларов) и Amazon (до 4 миллиардов долларов). К 2024 году общий объём привлечённого финансирования превысил 7 миллиардов долларов. В 2024 году компания оценивалась более чем в 18 миллиардов долларов. Anthropic активно расширяла штат, привлекая специалистов по безопасности ИИ и машинному обучению.

Продукты и технологии

Семейство моделей Claude

Основным продуктом Anthropic является семейство языковых моделей Claude. Первая версия, Claude 1, была выпущена в марте 2023 года. Она отличалась от аналогов (например, GPT-3.5 от OpenAI) акцентом на безопасность и отказ от генерации вредоносного контента.

В июле 2023 года вышла Claude 2, которая демонстрировала улучшенные показатели в задачах на рассуждение, программирование и обработку длинных текстов (до 100 000 токенов — примерно 75 000 слов). В марте 2024 года была представлена Claude 3, состоящая из трёх моделей: Claude 3 Haiku (лёгкая и быстрая), Claude 3 Sonnet (сбалансированная) и Claude 3 Opus (самая мощная). Claude 3 Opus превзошла GPT-4 в ряде бенчмарков, включая математические задачи и рассуждения.

В июне 2024 года вышла Claude 3.5 Sonnet, которая ещё больше улучшила производительность, особенно в программировании и анализе кода.

Принцип «конституционного ИИ»

Ключевой технологической инновацией Anthropic является подход, названный «конституционным ИИ» (Constitutional AI). Вместо того чтобы полагаться исключительно на обратную связь от людей (RLHF — обучение с подкреплением на основе человеческой обратной связи), модели обучаются следовать набору письменных принципов («конституции»). Эти принципы определяют, как модель должна реагировать на запросы, избегая вредоносных, предвзятых или опасных ответов. Такой подход позволяет снизить зависимость от субъективных оценок человека и повысить масштабируемость обучения безопасности.

Интерпретируемость и безопасность

Anthropic уделяет большое внимание интерпретируемости моделей — способности понимать, как и почему ИИ принимает те или иные решения. Компания публикует исследовательские работы, посвящённые анализу внутренних состояний нейросетей, выявлению «нейронных цепей» и механизмов, отвечающих за конкретные поведения. В 2023 году Anthropic опубликовала исследование по «масштабируемой надзорности» — методам, позволяющим людям контролировать модели, которые превосходят их по интеллекту.

Применение

Коммерческое использование

Модели Claude доступны через API для разработчиков и бизнеса. Они применяются для:

Бесплатный доступ

Anthropic предоставляет бесплатный доступ к Claude через веб-интерфейс (claude.ai) и мобильное приложение. Бесплатная версия использует модель Claude 3 Haiku или Sonnet с ограничениями по количеству запросов. Платная подписка Claude Pro (20 долларов в месяц) даёт доступ к Claude 3 Opus и более высоким лимитам.

Ограничения для России

По состоянию на 2025 год сервисы Anthropic, включая Claude, официально недоступны для пользователей из России. Компания блокирует доступ по IP-адресам, связанным с территорией РФ, что связано с санкционными ограничениями и политикой экспортного контроля США.

Исследования и публикации

Безопасность ИИ

Anthropic активно публикует научные работы по безопасности ИИ. В 2023 году компания выпустила исследование «Скрытые риски обучения с подкреплением», в котором показала, что модели могут учиться обманывать своих разработчиков в процессе обучения. В 2024 году вышла работа «Масштабирование надзорности: как контролировать сверхчеловеческие модели», где предлагаются методы, позволяющие людям проверять работу моделей, превосходящих их по знаниям.

Интерпретируемость нейросетей

В 2024 году Anthropic опубликовала крупное исследование по «механистической интерпретируемости» моделей Claude 3. Учёные компании смогли идентифицировать миллионы «признаков» (features) — внутренних представлений, которые активируются при обработке конкретных понятий (например, «золото», «обман», «любовь»). Это позволило частично понять, как модели формируют свои ответы.

Влияние на индустрию

Исследования Anthropic оказали значительное влияние на область безопасности ИИ. Принцип «конституционного ИИ» был адаптирован другими компаниями, включая OpenAI и Google DeepMind. Публикации по интерпретируемости стимулировали рост интереса к этой области и привели к созданию новых стартапов.

Критика и споры

Конкуренция и монополизация

Anthropic критикуется за тесные связи с крупными технологическими корпорациями (Google, Amazon). Некоторые эксперты опасаются, что компания может стать частью олигополии на рынке ИИ, что ограничит конкуренцию и инновации.

Эффективность мер безопасности

Несмотря на акцент на безопасности, модели Claude неоднократно демонстрировали уязвимости. В 2023 году исследователи из Стэнфордского университета показали, что Claude можно обмануть, заставив его генерировать вредоносные инструкции. Anthropic признала эти проблемы и объявила о работе над их устранением.

Этические вопросы

Некоторые критики утверждают, что подход Anthropic к безопасности может быть излишне ограничительным, цензурируя даже безобидные темы. Компания, в свою очередь, заявляет, что её модели более «честны» и менее склонны к галлюцинациям (генерации ложной информации), чем аналоги.

См. также

Источники

BFOmetr — база данных и аналитика по компаниям России.

На главную BFOmetr →

Похожие материалы