Google приостанавливает генерацию изображений людей в AI после критики по поводу этничности 🤖🖼️

Google временно приостановила возможность своего нового искусственного интеллекта Gemini создавать изображения людей после того, как пользователи социальных сетей заметили, что AI изображал исторические фигуры, включая немецких солдат Второй мировой войны и викингов, в виде представителей разных этнических групп.

Компания заявила, что временно остановит генерацию изображений людей, чтобы доработать модель. «Мы уже работаем над исправлением проблем с функцией генерации изображений в Gemini. Пока это происходит, мы приостанавливаем генерацию изображений людей и скоро выпустим улучшенную версию», — говорится в заявлении Google.

Хотя в сообщении не указывались конкретные изображения, примеры работы Gemini активно обсуждались в социальных сетях, включая комментарии о возможных ошибках и предвзятости AI. Один бывший сотрудник Google отметил, что «иногда Google Gemini трудно заставить признать существование белых людей».

Джек Кравчик, старший директор команды Gemini, признал, что генератор изображений требует доработки, особенно для исторических контекстов. «Gemini может создавать разнообразные изображения людей, и это хорошо для пользователей по всему миру. Но в случае исторических изображений модель часто промахивается», — сказал он.

Google подчеркнул, что инструменты AI должны отражать разнообразие глобальной аудитории, и планирует продолжить генерацию изображений для нейтральных запросов, например «человек гуляет с собакой», при этом исторические запросы требуют дополнительной настройки.

Вопрос предвзятости AI широко обсуждается в исследовательской среде. Проекты, такие как Stable Diffusion XL, ранее показывали, что AI может демонстрировать ошибки в изображениях людей разных этнических групп или гендеров. Эксперты отмечают, что это сложная проблема в области глубокого обучения и генеративного AI, и ошибки неизбежны, но со временем точность моделей будет улучшаться.

«Существует множество подходов к уменьшению предвзятости: от тщательной подготовки обучающих наборов данных до введения защитных механизмов для моделей. Ошибки будут, но со временем ситуация станет лучше», — отметил Андрей Рогоиский из Института ориентированного на человека AI при Университете Суррея.

Google продолжает работу над улучшением Gemini, чтобы генерация изображений стала более точной и отражала реальные исторические и культурные нюансы. 🎨🤖