QwQ — модель рассуждения от Alibaba¶
QwQ (англ. Questions with Questions) — семейство больших языковых моделей (LLM) китайской компании Alibaba Group, разработанных подразделением Alibaba Cloud и ориентированных на задачи логического рассуждения и математического мышления. Название переводится как «вопросы с вопросами» и отражает подход модели, строящей цепочки рассуждений через последовательные самовопросы. Модель позиционируется как конкурент OpenAI o1 и DeepSeek-R1 в нише «мыслительных» (reasoning) моделей.
¶История
Первая публичная версия QwQ-32B-Preview была представлена Alibaba Cloud в ноябре 2024 года. Модель имела 32 миллиарда параметров и позиционировалась как исследовательский прототип, способный соревноваться с ведущими моделями в математических и логических задачах. В марте 2025 года вышел полноценный релиз QwQ-32B — открытая модель с весами, доступными для свободного использования. Позднее, в том же 2025 году, Alibaba Cloud выпустила Qwen3-32B, объединившую архитектуру QwQ с семейством моделей Qwen.
¶Архитектура и принцип работы
QwQ построена на архитектуре трансформера и использует метод обучения с подкреплением (RLHF) в сочетании с обучением на цепочках рассуждений (chain-of-thought). Ключевая особенность — режим «мысленного шёпота» (thinking mode): перед выдачей ответа модель генерирует скрытую цепочку промежуточных рассуждений, в ходе которых проверяет собственные предположения, задаёт себе уточняющие вопросы и пересматривает ход решения. Это позволяет существенно повышать точность на задачах, требующих многошагового логического вывода.
¶Характеристики
| Параметр | Значение |
|---|---|
| Число параметров | 32 млрд |
| Контекстное окно | до 128 000 токенов |
| Лицензия | Apache 2.0 |
| Формат весов | открытые (open weights) |
| Поддержка языков | многоязычная, включая русский |
¶Бенчмарки
По данным Alibaba Cloud, QwQ-32B демонстрирует результаты, сопоставимые с OpenAI o1-mini на математических задачах AIME и MATH-500, а также на задачах программирования LiveCodeBench. На момент выхода модель превосходила многие открытые модели того же класса по соотношению «качество — размер», что объясняется эффективным использованием обучения с подкреплением.
¶Применение
QwQ используется для решения математических задач, генерации и отладки кода, аналитических рассуждений, а также как база для построения прикладных решений в Alibaba Cloud. Благодаря открытой лицензии модель доступна для локального запуска на собственном оборудовании, что делает её востребованной в исследовательских и корпоративных средах, где данные не могут покидать периметр компании.
¶Сравнение с аналогами
| Модель | Разработчик | Параметры | Особенность |
|---|---|---|---|
| QwQ-32B | Alibaba | 32 млрд | Открытые веса, режим рассуждения |
| OpenAI o1 | OpenAI | не раскрыт | Закрытая модель, API |
| DeepSeek-R1 | DeepSeek | 671 млрд (MoE) | Открытые веса, цепочки рассуждений |
| Claude 3.7 Sonnet | Anthropic | не раскрыт | Гибридный режим рассуждения |
¶См. также
- Qwen — семейство языковых моделей Alibaba
- DeepSeek-R1 — модель рассуждения китайской компании DeepSeek
- Chain-of-thought — методика пошаговых рассуждений в LLM
¶Источники
- Официальная документация Alibaba Cloud (Qwen / QwQ)
- Релизы модели на платформе Hugging Face
- Публикации Alibaba Group о выпуске QwQ-32B