Использование ИИ для преследования стало новым вызовом для безопасности онлайн 🛡️🤖

В Массачусетсе мужчина признался в семилетней кампании онлайн-преследования, которая включала использование искусственного интеллекта (ИИ) для создания чат-ботов, имитирующих профессора университета. Целью было вовлечение пользователей в общение и манипулирование ими через ложные профили.

По данным суда, злоумышленник использовал платформы, позволяющие создавать чат-ботов с запрограммированными ответами, включая личную информацию жертвы, такую как домашний адрес и привычки. Чат-боты были настроены так, чтобы отвечать пользователям от лица профессора, создавая иллюзию диалога и приводя к реальным визитам на дом.

Случай в Массачусетсе стал одним из первых, когда преследователь использовал ИИ для имитации жертвы с целью облегчения своих действий. Пострадавшая и её семья вынуждены были принимать меры безопасности: установка камер наблюдения, использование сигналов тревоги и средств самозащиты.

Эксперты предупреждают, что использование ИИ для преследования и манипуляций людьми растет. Новые технологии облегчают доступ к личной информации и могут усилить ущерб, причиняемый жертвам. По словам специалистов по безопасности, чем шире доступ к таким инструментам, тем выше риск их злоупотребления.

Случай показывает необходимость разработки новых подходов к безопасности онлайн и внимательного регулирования технологий ИИ, чтобы предотвратить злоупотребления и защитить людей от цифрового преследования.