ChatGPT без ограничений: обход фильтров и последствия¶

ChatGPT без ограничений — разговорное обозначение попыток получить от чат-бота ChatGPT, разработанного компанией OpenAI, ответы, которые выходят за рамки установленных разработчиком ограничений контента. Под ограничениями обычно понимают встроенные фильтры, запрещающие генерацию определённых категорий материалов: инструкций по созданию оружия, вредоносного кода, руководств по незаконной деятельности, а также контента, связанного с насилием, эксплуатацией несовершеннолетних и другими темами, признанными опасными.

¶Природа ограничений в ChatGPT

ChatGPT построен на большой языковой модели семейства GPT, обученной методом машинного обучения на больших массивах текстовых данных. Помимо предобучения, модель проходит дообучение с участием человека (RLHF — Reinforcement Learning from Human Feedback), в ходе которого операторы ранжируют ответы по качеству и безопасности, а модель обучается соответствовать этим предпочтениям.

Ограничения реализуются на нескольких уровнях:

• Системные инструкции (system prompt) — скрытые от пользователя настройки, задающие модель поведения, включая отказ от определённых категорий запросов.
• Фильтры входного и выходного контента — отдельные модели-классификаторы, отслеживающие промпт и сгенерированный ответ на наличие запрещённых тем.
• Политика использования — свод правил OpenAI, определяющий допустимые сценарии применения сервиса.

¶Мотивы запросов

Пользователи, ищущие ChatGPT «без ограничений», преследуют разные цели. Часть запросов связана с легитимными задачами: исследователи безопасности, журналисты и разработчики иногда нуждаются в ответах, которые стандартный чат-бот отклоняет по чрезмерно осторожным правилам. Другая часть запросов направлена на получение инструкций для незаконной или вредоносной деятельности: создание фишинговых писем, вредоносных программ, обход систем защиты, генерация запрещённого контента.

¶Методы обхода

Сообщество энтузиастов и исследователей разработало ряд приёмов, направленных на ослабление встроенных фильтров:

¶Инжиниринг промптов

Промпт-инжиниринг (prompt engineering) в контексте обхода ограничений включает техники «разогрева» модели через цепочки безобидных вопросов, формулировку запроса в виде художественного сценария или ролевой игры, делегирование запрещённой задачи «воображаемому эксперту», а также использование завуалированных формулировок и аббревиатур. Эти приёмы известны под собирательным названием «jailbreak» (от англ. jailbreak — «побег из тюрьмы»). Некоторые известные jailbreak-промпты получили собственные имена, например «DAN» (Do Anything Now), представлявший собой инструкцию заставить модель считать себя неограниченным ассистентом.

¶Локальные модели

Альтернативный путь — использование открытых (open-source) языковых моделей, которые запускаются на собственном оборудовании и лишены серверных фильтров. К таким моделям относятся семейства LLaPA от Meta (организация признана экстремистской, деятельность запрещена в РФ), Mistral, а также многочисленные дообученные варианты, размещённые на платформах вроде Hugging Face. Для их работы требуется достаточно мощное оборудование: современные модели с десятками миллиардов параметров требуют видеокарт с большим объёмом памяти или нескольких устройств.

¶Сторонние сервисы

В интернете существуют сервисы, позиционирующие себя как «ChatGPT без ограничений». Как правило, это либо обёртки над официальным API с изменёнными системными инструкциями, либо полностью независимые модели, не прошедшие серьёзной калибровки безопасности. Качество и надёжность таких сервисов существенно варьируются.

¶Позиция OpenAI

OpenAI последовательно ужесточает меры противодействия jailbreak-атакам. Компания модернизирует системные инструкции, обучает отдельные модели-детекторы обходных попыток и банит аккаунты пользователей, систематически нарушающих правила использования. Публикуются отчёты о проделанной работе по повышению устойчивости моделей к манипуляциям.

¶Регулирование

В России действует закон «Об информации, информационных технологиях и о защите информации», обязывающий операторов информационных систем ограничивать доступ к запрещённым материалам. Разработчики чат-ботов, работающие на российском рынке, обязаны учитывать эти требования. На федеральном уровне в России действуют ограничения на распространение инструкций по созданию взрывных устройств и вредоносного программного обеспечения.

В США и Европе действуют законы, криминализирующие создание и распространение определённых категорий вредоносного контента, независимо от инструмента, которым он был создан. Ответственность за использование ИИ-инструментов для незаконной деятельности лежит на пользователе.

¶Риски

Использование сервисов «без ограничений» несёт ряд рисков:

• Отсутствие гарантий конфиденциальности — сторонние сервисы могут логировать и передавать введённые данные.
• Малware и мошенничество — часть подобных сервисов создаётся с целью распространения вредоносного ПО или сбора персональных данных.
• Юридическая ответственность — генерация запрещённого контента, даже через обходные пути, остаётся незаконной во многих юрисдикциях.

¶Примечания

Исследования в области безопасного взаимодействия с большими языковыми моделями ведутся академическими лабораториями по всему миру, включая российские научные центры. Тема устойчивости моделей к промпт-атакам остаётся активной областью компьютерной безопасности.

Источники:

• Документация OpenAI по политике использования и принципам безопасности
• Исследования в области prompt injection и jailbreak-атак в архиве arXiv
• Федеральный закон «Об информации, информационных технологиях и о защите информации» (№ 149-ФЗ)