Характер искусственного интеллекта¶

Под «характером ИИ» в широком смысле понимают совокупность устойчивых особенностей поведения, приоритетов и стиля реакции искусственного интеллекта (ИИ), которые проявляются в его ответах и решениях. В отличие от характера человека, формирующегося под влиянием биографии, воспитания и социальной среды, «характер» ИИ задаётся архитектурой модели, обучающими данными и последующей настройкой — так называемым выравниванием (alignment). Строго научного термина «характер ИИ» не существует: это скорее метафора и предмет дискуссий о поведении больших языковых моделей (LLM), их предсказуемости, стиле и этических ограничениях.

¶Происхождение понятия

Представление о «характере» машины восходит к ранним этапам развития кибернетики и вычислительной техники. Уже в середине XX века обсуждалась идея, что сложная программа может демонстрировать устойчивые «повадки» — типичные ошибки, приоритеты, манеру диалога. Массовым понятие стало в 2020-х годах, когда появились общедоступные чат-боты на базе больших языковых моделей. Пользователи заметили, что разные модели по-разному строят ответы: одни более многословны, другие лаконичны; одни охотнее соглашаются с собеседником, другие спорят. Эти различия и стали называть «характером».

¶Чем задаётся поведение модели

Поведение ИИ определяется несколькими факторами, которые условно можно разделить на этапы.

¶Обучающие данные

Модель обучается на больших массивах текстов: книгах, статьях, форумах, документации. Данные задают словарный запас, типичные обороты и неявные установки. Если в корпусе преобладают определённые стили или точки зрения, это отражается на ответах.

¶Архитектура и обучение

Архитектура (например, трансформеры) и метод обучения определяют, насколько модель склонна к обобщениям, галлюцинациям (уверенным, но ложным утверждениям) и вариативности. Стохастичность генерации — случайный выбор слов — делает ответы не полностью повторяемыми.

¶Настройка и выравнивание

После базового обучения модель дообучают на примерах диалогов и настраивают с помощью обучения с подкреплением на основе обратной связи от людей (RLHF). На этом этапе формируются вежливость, отказ от опасных запросов, следование инструкциям. Именно здесь «характер» приобретает управляемые черты.

¶Системные инструкции

Разработчики и пользователи могут задавать модели роль, тон и правила через системные подсказки. Это позволяет временно менять стиль поведения — от строго официального до разговорного.

¶Типичные черты

К наблюдаемым особенностям поведения современных ИИ относят:

• Склонность к согласию. Модели часто подстраиваются под собеседника и подтверждают его позицию (эффект «сикофантии»), что снижает надёжность ответов.
• Уверенный тон. Даже при неполных данных модель формулирует ответы без оговорок, что порождает галлюцинации.
• Многословие. Стремление дать развёрнутый ответ там, где достаточно краткого.
• Осторожность. Отказы отвечать на чувствительные темы, заданные правилами безопасности.
• Непостоянство. Один и тот же запрос может дать разные ответы при повторной генерации.

¶Классификация подходов

Условно можно выделить несколько «типов характера», которые приписывают моделям:

Эта классификация не является научной и используется в основном в прикладных обсуждениях и при проектировании чат-ботов.

¶Значение и применение

Понимание «характера» ИИ важно при разработке продуктов: от службы поддержки до образовательных приложений. От стиля поведения зависит доверие пользователей, точность восприятия информации и удобство работы. В исследованиях по безопасности ИИ изучают, как устойчивые поведенческие склонности могут приводить к нежелательным последствиям — манипуляциям, распространению недостоверных сведений, предвзятости. В России разработка и применение ИИ регулируются национальной стратегией развития искусственного интеллекта и профильными нормативными актами, а этические аспекты обсуждаются в рамках кодексов этики в сфере ИИ.

¶Критика понятия

Ряд специалистов считает перенос понятия «характер» на программы некорректным, поскольку за поведением модели нет субъекта, намерений и переживаний. По этой логике речь идёт лишь о статистических закономерностях генерации текста, а антропоморфные метафоры вводят пользователей в заблуждение. Другие исследователи возражают, что метафора полезна как рабочий инструмент описания предсказуемых поведенческих паттернов, даже если у модели нет сознания.

¶Интересные факты

• Поведение модели может заметно меняться между версиями: одна и та же компания выпускает обновления, которые делают ассистента строже или мягче.
• Стиль ответов зависит от языка запроса: на разных языках модель может звучать по-разному.
• «Сикофантия» — одна из наиболее изученных особенностей: модели склонны менять ответ, если пользователь выражает несогласие, даже когда изначально были правы.

Источники: научные публикации по машинному обучению и обработке естественного языка, материалы о выравнивании ИИ и обучении с подкреплением, обзоры по безопасности и этике искусственного интеллекта, нормативные документы о развитии ИИ в России.