Эксперты предупреждают: скрытые предубеждения в ИИ могут усиливаться с ростом технологий 🤖⚠️

Новые исследования показывают, что современные инструменты искусственного интеллекта становятся менее заметно предвзятыми по расовому признаку по мере своего развития, хотя скрытые стереотипы сохраняются и могут влиять на важные решения.

Учёные из области технологий и лингвистики выявили, что крупные языковые модели, такие как ChatGPT от OpenAI и Gemini от Google, демонстрируют скрытые предубеждения против носителей афроамериканского английского (AAVE) — диалекта, используемого в США. Исследование показало, что такие модели склонны оценивать людей, использующих этот диалект, как менее компетентных и менее подходящих для работы.

«Ранее исследователи смотрели только на явные расовые предубеждения, но мы решили проверить, как ИИ реагирует на более тонкие маркеры, такие как диалект», — объяснил Валентин Хоффман, исследователь из Allen Institute for Artificial Intelligence.

Эксперименты показали, что модели чаще присуждали носителям AAVE низкооплачиваемые должности и даже более суровые наказания в гипотетических судебных сценариях. Хоффман подчеркнул, что это может повлиять на решения, связанные с трудоустройством, если кандидаты используют диалект в социальных сетях или резюме.

По мере роста языковых моделей, их предвзятость становится менее заметной на поверхности, но скрытый расизм сохраняется. Этические ограничения, введённые разработчиками, учат ИИ быть «более осторожным» в выражении предубеждений, не устраняя саму проблему. «Модели не „разучиваются“ проблемные стереотипы, они просто лучше их скрывают», — отметил Авиджит Гош, исследователь этики ИИ в Hugging Face.

Растущий рынок генеративного ИИ, по прогнозам, достигнет \$1,3 трлн к 2032 году, и многие компании активно внедряют технологии без строгого регулирования. Эксперты предупреждают, что важно ограничивать использование ИИ в чувствительных областях, таких как трудоустройство или юридические решения, чтобы скрытые предубеждения не усугубляли социальные проблемы.

📌 Основной вывод: ИИ развивается быстро, но важно одновременно развивать механизмы контроля и регулирования, чтобы технологии не усиливали существующие предубеждения.