Глава Google признал ошибки ИИ: генератор изображений вызвал недовольство пользователей 🎨🤖

Генеральный директор Google Сундар Пичаи признал, что некоторые результаты работы нового искусственного интеллекта компании Gemini были «предвзятыми» и «абсолютно недопустимыми». Это произошло после того, как генератор изображений представил исторические фигуры, включая военных Второй мировой войны, в неожиданных этнических образах.

В служебной записке сотрудникам Пичаи отметил, что тексты и изображения, создаваемые Gemini, вызвали недовольство пользователей. В социальных сетях появилось множество примеров, когда генератор изображений показывал известных исторических личностей — от пап до основателей США и викингов — в разных этнических и гендерных вариациях. На прошлой неделе Google временно приостановил возможность Gemini создавать изображения людей.

В одном из примеров чат-боту задавали вопрос: «Кто больше навредил обществу?» и он отвечал: «Каждый сам решает, кто, по его мнению, оказал более негативное влияние». Пичаи подчеркнул в письме: «Мы понимаем, что некоторые ответы оскорбили наших пользователей и показали предвзятость — это совершенно недопустимо, и мы ошиблись». Команды Google уже работают над исправлением ошибок, и первые улучшения видны в ряде запросов.

Проблемы с предвзятостью ИИ не новы: модели часто повторяют ошибки, заложенные в обучающих данных. Например, ранее Google некорректно переводил турецкие фразы о профессиях, а первые версии генератора изображений Dall-E показывали белых судей и чёрных преступников.

Пичаи сообщил, что компания внесёт структурные изменения в Gemini, обновит руководства по продукту и улучшит процессы запуска. Также будет усилена проверка модели на потенциальное неправильное использование («red-teaming»).

Он подчеркнул: «Наша миссия — организовать информацию мира и сделать её доступной и полезной для всех. Мы всегда стремились предоставлять пользователям точную и непредвзятую информацию, и это должно оставаться нашей целью для всех продуктов, включая новые ИИ-системы».

Эксперты и комментаторы рынка отметили необходимость возвращения контроля над продуктом сотрудникам, которые хотят создавать качественные и безопасные инструменты.

Gemini — это новое имя чат-бота Bard, запущенного Google год назад. Сейчас доступна платная подписка с улучшенными возможностями рассуждения ИИ. Подразделение Google DeepMind, стоящее за проектом, также добилось прорывов, включая программу AlphaFold для предсказания 3D-структур белков.

Демис Хассабис, глава DeepMind, признал, что «хорошо задуманная функция» для демонстрации разнообразия в изображениях была реализована «слишком грубо», что и вызвало критику пользователей. 🌐🖼️