Технологические компании договорились о «разумных мерах» против дезинформации с помощью ИИ 🖥️🤖

Крупные технологические компании на Мюнхенской конференции по безопасности подписали соглашение о добровольном принятии «разумных мер» для предотвращения использования инструментов искусственного интеллекта для дезинформации и манипуляций в ходе выборов. Среди участников соглашения — Adobe, Amazon, Google, IBM, Microsoft, OpenAI, TikTok и другие, включая платформу X.

Суть соглашения заключается не в запрете ИИ-контента, а в создании механизмов выявления и маркировки вводящих в заблуждение изображений, видео и аудиозаписей. Оно направлено на предотвращение использования технологий для создания фальшивых сообщений о кандидатах, чиновниках или избирательных процедурах. Компании обязались обмениваться лучшими практиками и быстро реагировать на распространение подобных материалов.

«Ни одна компания, ни одно правительство, ни одна организация гражданского общества не справится с этим вызовом в одиночку», — подчеркнул Ник Клегг, президент по глобальным вопросам одной из компаний-участниц.

Хотя соглашение носит в основном символический характер и не содержит обязательных мер, эксперты отмечают его важность. «Ясно, что компании заинтересованы, чтобы их технологии не подрывали честные выборы, — говорит Рэйчел Орей из Bipartisan Policy Center. — Но пока это добровольно, и мы будем наблюдать за выполнением обещаний».

В рамках соглашения компании обещают обращать внимание на контекст публикаций, защищать образовательный, документальный, художественный и сатирический контент, а также работать с пользователями, чтобы они понимали, как распознавать фальшивый ИИ-контент.

Ранее компании уже внедряли меры безопасности для своих генеративных инструментов и обучали системы распознавать ИИ-контент. Однако многие решения ещё не полностью внедрены, и отрасль сталкивается с давлением по усилению контроля.

В соглашении также приняли участие разработчики чат-ботов Anthropic и Inflection AI, стартап ElevenLabs по клонированию голосов, компании McAfee и TrendMicro, а также Stability AI, известная генератором изображений Stable Diffusion. Примечательно, что Midjourney пока не присоединился к инициативе.

Включение X в список участников стало неожиданностью, учитывая сокращение модерации контента на платформе в последние годы. CEO X, Линда Яккарино, отметила: «Каждый гражданин и каждая компания несут ответственность за честные выборы. Мы готовы сотрудничать с коллегами, чтобы противостоять угрозам ИИ, обеспечивая при этом свободу слова и прозрачность».

Инициатива демонстрирует стремление индустрии работать вместе, чтобы снизить риски дезинформации в цифровую эпоху, обеспечивая пользователям более безопасное и информативное пространство для взаимодействия с технологиями. 🌐✅