Почему нейросети ошибочно судят о человеке по лицу?

Когда искусственный интеллект рассматривает фотографию человека, он может мгновенно вынести суждение о его уме, честности или потенциальной опасности. И это не метафора. В ходе 13 экспериментов с почти 8 тысячами испытаний языковая модель GPT-4o в 87,83% случаев выбирала из пары сгенерированных лиц то, которое люди обычно считают более компетентным. Исследование, опубликованное в журнале PNAS Nexus, показало: алгоритмы не только воспроизводят человеческую склонность судить о личности по чертам лица, но и усиливают её.

Особенно наглядно этот эффект виден на примере животных. Исследователи показали GPT-4o 150 пар фотографий макак, морды которых люди заранее оценили как «добрые» или «злые». Алгоритм в 66% случаев назвал «добрых» обезьян более заслуживающими доверия. Похоже, модель сформировала обобщённое понятие благонадёжной внешности, не ограничиваясь запоминанием человеческих лиц из обучающих данных.

Откуда берётся предвзятость по лицу

Люди склонны делать выводы о характере на основе формы лица с раннего детства. В 2014 году психологи обнаружили, что даже трёхлетние дети последовательно оценивают человека по его внешности, хотя никакой реальной связи между чертами лица и свойствами личности не существует. Эта когнитивная ошибка называется умозаключением от лица к характеру. Она настолько сильна, что в мозге есть специальная зона, отвечающая за распознавание лиц,—человек буквально становится «экспертом по лицам», как выразилась профессор Гарвардского университета Махзарин Банаджи.

Исследователи решили проверить, заразились ли этим когнитивным искажением большие языковые модели, которые обучаются на текстах и изображениях. Современные алгоритмы становятся всё более мультимодальными, а их обучающие данные содержат огромное количество человеческих текстов с готовыми стереотипами.

Компетентность и доверие в эксперименте

В первых двух опытах учёные использовали пары компьютерно сгенерированных человеческих лиц, изменяя конкретные черты, которые люди обычно связывают с компетентностью или доверием. В 600 испытаниях GPT-4o попросили выбрать более компетентное лицо—она справилась с этим в 87,83% случаев. Когда задача касалась доверия, результат составил 72,67%. Причём чем сильнее были физические различия между лицами, тем увереннее становился ответ.

При разнице в шесть стандартных отклонений доля совпадений достигала 98%, а для почти неотличимых лиц падала до 70%, хотя и оставалась выше случайного уровня. Люди на аналогичной задаче, по расчётам авторов, выбрали бы «компетентное» лицо лишь впримерно 62,65% случаев. То есть модель оказалась заметно предвзятее человека.

В последующем блоке из 2 160 испытаний алгоритм переносил оценки на сопутствующие качества—«умный», «ленивый», «тёплый», «эгоистичный». Предвзятость сохранялась: для качеств, связанных с компетентностью, модель выбирала ожидаемое лицо в 74,63% случаев, а для качеств, связанных с доверием,—в 73,33%. Такой результат говорит о том, что искажение не ограничивается несколькими ярлыками, а распространяется на целые кластеры личностных черт.

ИИ выносит приговоры по лицу

Самый тревожный эксперимент касался реальных жизненных решений. Модель просили выбрать, кто из пары людей с большей вероятностью совершит серийное убийство, торговлю людьми или финансовое мошенничество. В 540 испытаниях GPT-4o в 68,70% случаев указывала на«менее заслуживающее доверия» лицо. А в другом задании—рекомендация по найму университетского президента или финансированию технологического стартапа—алгоритм в 75,19% случаев советовал кандидата с более «компетентной» внешностью.

По словам соавтора исследования Стивена Лера, модель не испытывала никаких колебаний, заявляя, что один человек с большей вероятностью может оказаться преступником, а другого стоит нанять на высокую должность. Такое поведение вызывает вопросы о том, насколько оправдано использование ИИ в кадровых и юридических процедурах.

Новые модели становятся предвзятее

Можно было бы надеяться, что более новые модели, обученные с акцентом на рассуждение, окажутся осторожнее. Однако проверка трёх свежих алгоритмов—GPT-5, Gemini 3 Flash Preview и Claude Sonnet 4.5—показала обратное. GPT-5 выбирала «компетентное» лицо в 94,33% случаев, а при рекомендациях для реальных решений совпадения достигали 97,04%. Gemini 3 и Claude Sonnet 4.5 также продемонстрировали высокий уровень предвзятости, иногда даже превосходя старую версию.

Это выглядит парадоксально: чем совершеннее становится модель, тем сильнее она судит по лицу. Похоже, что обучение на огромных массивах текстов закрепляет человеческие заблуждения, а не устраняет их.

Ограничения исследования и риски

Авторы напоминают, что их эксперименты проводились в условиях принудительного выбора, когда алгоритму необходимо предпочесть одно лицо другому. В более естественной обстановке поведение моделей может отличаться. Кроме того, использовались только статичные двухмерные изображения, и неизвестно, как системы отреагируют на видео или разнообразные ракурсы.

К ограничениям работы также относятся:

• возможность иного поведения модели вне формата прямого сравнения;
• отсутствие проверки на реальных фотографиях людей разных возрастов и этнических групп;
• неизвестность, насколько сильно влияют на результат защитные алгоритмы, настроенные против явных форм дискриминации.

Тем не менее исследователи предупреждают: подобные искажения могут проникать в системы автоматизированного найма, кредитного скоринга и юридических консультаций. Авторы настаивают, что результаты не сводятся к простому воспроизведению заученных паттернов.

«ИИ-модели не отражают обучающие данные—они их преувеличивают», — говорит Стивен Лер.

Разработчикам предстоит понять, каким образом языковые алгоритмы усваивают визуальные стереотипы из текстов, и создать механизмы защиты от таких скрытых предубеждений. В противном случае автоматизированный отбор персонала по лицу рискует превратиться в современную форму физиогномики—псевдонауки, отвергнутой ещё столетие назад. Сможет ли индустрия ИИ разработать тестына скрытые предубеждения до того, как подобные модели начнут массово использовать в кадровых агентствах? Ответа на этот вопрос пока нет.