Биас — систематическая ошибка в оценке¶

Биас — это систематическая ошибка в суждении, оценке или принятии решения, возникающая под влиянием предвзятости, стереотипов, эмоций или когнитивных искажений, в отличие от случайной (статистической) ошибки, которая не имеет направленности. Термин происходит от английского bias («предвзятость», «смещение») и используется в психологии, статистике, экономике, искусственном интеллекте и повседневном языке. В широком смысле биас описывает любое отклонение от объективной оценки, обусловленное не случайностью, а систематическим влиянием определённых факторов.

¶Происхождение термина

Слово bias восходит к старофранцузскому biais — «диагональ», «косая линия», и использовалось в играх на манеже и в кулачном бою для обозначения наклона или уклона. В статистике термин закрепился в XIX веке для обозначения смещения оценки параметра — например, когда выборочное среднее систематически отличается от генерального. В психологии и социологии понятие получило распространение в XX веке в связи с исследованиями предвзятости и стереотипов.

¶Биас в психологии

В психологии биас связан с когнитивными искажениями — систематическими отклонениями мышления от норм логики и вероятности. К основным видам относятся:

• Эффект подтверждения — тенденция замечать информацию, подтверждающую уже существующие убеждения, и игнорировать противоречащую.
• Эффект якоря — чрезмерное влияние первой полученной информации на последующие оценки.
• Эффект блестящего будущего — завышение вероятности благоприятного исхода при планировании.
• Эффект группового мышления — подавление индивидуального мнения ради консенсуса группы.
• Атрибутивная ошибка — склонность приписывать свои успехи способностям, а неудачи — внешним обстоятельствам (и наоборот у других людей).

Исследования когнитивных искажений проводились Даниэлем Канеманом и Амосом Тверски, чьи работы легли в основу поведенческой экономики.

¶Биас в статистике

В математической статистике смещение (bias) — это разность между математическим ожиданием статистической оценки и истинным значением оцениваемого параметра. Оценка называется несмещённой, если её математическое ожидание равно истинному параметру.

Пример: при оценке дисперсии делением на n вместо n − 1 оценка систематически занижает истинное значение — это смещение. Использование знаменателя n − 1 (правило Бесселя) устраняет смещение.

Смещение и дисперсия образуют компромисс: часто уменьшение смещения ведёт к росту дисперсии и наоборот. Этот принцип лежит в основе регуляризации в машинном обучении.

¶Биас в искусственном интеллекте

В машинном обучении bias обозначает систематическую ошибку модели, возникающую из-за упрощений, заложенных в алгоритм или обучающие данные. Высокий bias (underfitting) означает, что модель слишком проста и не улавливает закономерности; низкий bias при высокой дисперсии (overfitting) — что модель идеально подстроилась под обучающую выборку, но плохо обобщает.

Понятие также используется для описания предвзятости алгоритмов: если обучающие данные содержат исторические стереотипы (например, по гендеру или этнической принадлежности), модель может воспроизводить их в своих решениях. В России и мире ведутся работы по выявлению и коррекции такого алгоритмического биаса.

¶Биас в повседневной жизни

В бытовом значении биас — это предвзятость человека или группы. Проявляется в оценке людей по внешности, принадлежности к социальной группе, профессии. Исследования показывают, что на восприятие влияют:

• стереотипы, усвоенные из культуры и СМИ;
• эмоциональное состояние в момент оценки;
• личный опыт взаимодействия с представителями группы;
• контекст и формулировка вопроса.

¶Способы снижения биаса

Для уменьшения влияния предвзятости используются:

• Структурированные интервью и анкеты — одинаковые вопросы для всех участников.
• Анонимность — сокращает влияние социальных стереотипов.
• Разнообразие групп — разные точки зрения снижают групповое мышление.
• Чек-листы и критерии — заранее определённые правила оценки.
• Обратная связь и рефлексия — осознание собственных искажений.

¶Интересные факты

• В 2019 году исследование показало, что алгоритмы найма нескольких крупных технологических компаний демонстрировали предвзятость против женщин — системы были обучены на исторических данных о распределении вакансий.
• Термин «биас» активно используется в русскоязычном интернет-сленге в значении «предвзятость» или «уклон» — например, «у него биас в пользу этого бренда».

Источники:

• Канеман Д., Тверски А. «Поведение человека при риске»
• Митчелл Т. «Машинное обучение»
• Голдберг Д. «Генетические алгоритмы»
• Статьи по когнитивным искажениям в журнале Psychological Review