Искусственный интеллект и фейковые профили: эксперты призывают к строгому контролю 🤖⚖️

Известный историк и писатель Юваль Ной Харари выступил с предложением ужесточить ответственность за создание фейковых цифровых профилей, имитирующих реальных людей. По его мнению, разработчики таких технологий должны нести наказание, сопоставимое с преступлениями, связанными с подделкой денег.

На глобальном саммите ООН по искусственному интеллекту в Женеве Харари подчеркнул, что массовое распространение фейковых аккаунтов может подорвать доверие общества и эффективность публичных коммуникаций. «Сейчас впервые в истории можно создавать фейковых людей — миллиарды фейковых людей», — отметил он. «Если это произойдет, последствия для общества будут сравнимы с угрозой, которую фальшивые деньги представляют для финансовой системы».

Современные модели ИИ, такие как ChatGPT и аналогичные крупные языковые модели, способны не только усиливать существующий контент, но и самостоятельно генерировать материалы в огромных объёмах. Харари предупредил, что если миллионы таких ботов будут создавать более убедительный и привлекательный контент, чем люди, контроль над общественной дискуссией может полностью потеряться.

В качестве решения Харари предложил ввести серьёзные уголовные наказания для тех, кто создаёт ботов и заполняет публичные площадки искусственным контентом. Он также призвал к обязательным инвестициям компаний в безопасность ИИ — по его мнению, минимум 20% ресурсов следует направлять на исследование рисков и разработку способов их предотвращения.

Эти рекомендации последовали за объявлением OpenAI о том, что компания выделит 20% своей вычислительной мощности на задачи по безопасности ИИ, включая создание команды, которая будет изучать методы управления системами и предотвращать их неконтролируемое поведение.

«Нам необходимо гораздо больше инвестировать в безопасность и регулирование», — заключил Харари.

Эта инициатива поднимает важный вопрос: как современные технологии могут сочетать инновации и ответственность, чтобы не подорвать доверие пользователей и общественный порядок. 🌐💡