Эксперты предупреждают: новый ИИ от X может способствовать росту онлайн-расизма ⚠️

Запуск нового программного обеспечения ИИ от X, включая генерацию фотореалистичных изображений с помощью чат-бота Grok, вызвал опасения среди экспертов по борьбе с онлайн-насилием. Согласно последним данным, программа может привести к увеличению случаев расистских оскорблений в интернете.

Grok, который был выпущен в 2023 году, позволяет пользователям создавать изображения по текстовым подсказкам. Новый функционал Aurora, добавленный в обновление, помогает генерировать фотореалистичные изображения на основе простых текстов. Однако эксперты считают, что это может привести к серьезным последствиям. Организация Signify, занимающаяся отслеживанием и сообщением о случаях ненависти в интернете, сообщила о росте числа инцидентов с расистскими изображениями, созданными с помощью обновленного Grok. Некоторые из этих изображений изображают чернокожих футболистов в уничижительных и расистских позах, что вызывает тревогу.

Каллам Худ, глава Центра по борьбе с цифровой ненавистью (CCDH), отметил, что X стал платформой, поощряющей распространение ненависти, благодаря системе разделения доходов, которая мотивирует пользователей размещать враждебные и дезинформационные материалы. Программа ИИ, по словам экспертов, облегчила процесс создания таких изображений.

В отчете CCDH утверждается, что Grok успешно выполнял 80% запросов с ненавистью, а 50% из них были созданы после обхода системы фильтрации. При этом очень легко использовать «взлом» ИИ, что позволяет обойти ограничения по содержанию.

Представители Премьер-лиги Великобритании сообщили, что осведомлены о проблемах с расизмом в интернете, связанными с изображениями, созданными с помощью ИИ, и продолжают работать над блокировкой таких материалов, а также проводят юридические расследования по этим случаям.