Голос как уловка: лицо ведущей BBC использовали в рекламе через подделку с помощью ИИ 🎙️🤖

Британская телеведущая Лиз Боннин оказалась жертвой необычного мошенничества: её образ использовали в рекламе репеллента от насекомых после того, как компания, занимающаяся кампанией, была обманута голосовым сообщением, созданным с помощью искусственного интеллекта.

Сообщение, якобы от самой Боннин, якобы разрешало использовать её образ в рекламе. Однако голос оказался искусственно сгенерированным ИИ, что позже подтвердили эксперты. «Сначала голос звучал как мой, потом слегка австралийский, а к концу точно как английская женщина. Всё было фрагментированно и без естественного ритма», — рассказала Боннин.

Компания Incognito, запустившая рекламную кампанию, утверждает, что считала голос подлинным, так как получала несколько сообщений через WhatsApp✱ и электронную почту от человека, выдававшего себя за ведущую. Были предоставлены контактные данные, включая якобы представителей Wildlife Trusts — организации, где Боннин является президентом.

15 марта компания перевела £20 000 на счёт, связанный с цифровым банком, после получения контракта, который они приняли за электронную подпись Боннин. Пять дней спустя были отправлены изображения ведущей для использования в кампании. Кампания стартовала в понедельник, однако вскоре Боннин заявила, что не давала согласия на участие.

Эксперты по ИИ подтвердили, что голосовое сообщение было сгенерировано машинным способом: интонации, акценты и фоновые шумы не соответствовали естественной речи.

«Этот случай — предупреждение о возможных рисках использования ИИ. Технология может быть полезной, но сейчас она недостаточно регулируется», — отметила Боннин.

Incognito сообщила о мошенничестве в полицию и в банк, заявив, что надеется, что этот случай послужит предупреждением для других компаний. «Мошенники, использующие ИИ и компьютерные технологии, несколько раз пытались обмануть нас. Мы чувствуем обязанность предупредить бизнес о подобных рисках», — говорится в заявлении компании.

Случай подчеркивает растущую необходимость осторожного обращения с технологиями ИИ и проверок всех подозрительных сообщений, особенно в коммерческих сделках. ⚠️📢

        * Упомянутые организации запрещены на территории РФ