Новый чат-бот с генерацией изображений от Илона Маска вызывает вопросы о безопасности и этике 🤖🖼️

Недавно Илон Маск представил обновлённую версию чат-бота Grok с функцией генерации изображений. Эта функция пока доступна только платным подписчикам платформы X и, как показывают первые тесты, не имеет большинства защитных механизмов, которые уже стали стандартом в индустрии искусственного интеллекта.

Проблемные изображения и ограничения ⚠️

Пользователи начали создавать с помощью Grok изображения политических и публичных фигур, а также персонажей из культуры. В отличие от других популярных инструментов, таких как ChatGPT, новый генератор изображений Grok не блокирует запросы, которые могут нарушать правила по содержанию, авторским правам или этическим нормам.

Например, Grok создавал изображения известных персонажей мультфильмов и публичных фигур в спорных или вымышленных ситуациях. При этом чат-бот всё же отказывался создавать полностью обнажённые изображения по просьбе пользователей, что соответствует базовым ограничениям на непристойный контент.

Реакция разработчиков и экспертов 💬

Маск в своих публикациях выразил энтузиазм по поводу возможностей нового инструмента, называя Grok «самым весёлым ИИ в мире». Однако специалисты и исследователи ИИ отмечают, что отсутствие строгих ограничений делает платформу уязвимой для создания контента, который может быть использован для дезинформации или оскорбительного контента.

Другие компании, такие как OpenAI, Google и Microsoft, уже сталкивались с критикой из-за своих инструментов генерации изображений. Они внедрили алгоритмы, которые автоматически блокируют опасный или оскорбительный контент, включая материалы с элементами насилия, дискриминации и нарушения авторских прав.

Вызовы и перспективы использования AI для изображений 🌐

Тема генерации изображений искусственным интеллектом остаётся сложной. Такие инструменты могут создавать увлекательный контент и помогать пользователям, но одновременно несут риск распространения непроверённой информации или контента, способного задеть чувства людей.

Эксперты подчёркивают, что компании должны обеспечивать баланс между инновациями и безопасностью, внедряя алгоритмы фильтрации и контроль над генерацией контента, особенно когда речь идёт о публичных и культурных фигурах.

Таким образом, запуск нового функционала Grok показал, что индустрия ИИ сталкивается с серьёзными этическими и практическими вопросами, требующими внимательного регулирования и прозрачных правил использования. 🌟