Британские финансовые компании должны усилить защиту от мошенничества с использованием ИИ 💻💰

Глава британского финансового регулятора предупредит, что банкам, инвестиционным компаниям и страховщикам придётся увеличить расходы на защиту от мошенников, использующих искусственный интеллект (ИИ) для обмана клиентов.

Нихил Рати, генеральный директор Financial Conduct Authority (FCA), в выступлении в Лондоне подчеркнёт, что с ростом применения ИИ увеличиваются риски кибермошенничества, кибератак и кражи личных данных, а методы обмана становятся всё более изощрёнными и эффективными.

С быстрым развитием генеративного ИИ от компаний вроде OpenAI и Midjourney финансовые организации активно ищут способы применения технологии для повышения продуктивности. Однако это также вызывает тревогу из-за лёгкости создания поддельного текста, аудио и видео.

Рати отметит, что старшие менеджеры финансовых компаний несут полную ответственность за действия фирмы, включая решения, принятые ИИ. Он добавит:

«По мере расширения применения ИИ инвестиции в предотвращение мошенничества и повышение устойчивости к операционным и киберугрозам должны расти одновременно. Мы будем поддерживать инновации, но с адекватными мерами защиты».

В качестве примера он упомянет «deepfake»-видео, где известный эксперт по личным финансам Мартин Льюис якобы рекламировал рискованные инвестиции. Сам Льюис назвал видео «ужасающим» и призвал регуляторов заставить крупные технологические компании предотвращать подобные мошенничества.

По словам Рати, ИИ имеет и положительные стороны для финансового сектора: улучшение финансовых моделей, повышение продуктивности службы поддержки клиентов и более эффективное выявление мошенничества и отмывания денег.

Однако он предупредит и о возможных рисках для финансовых рынков: увеличение волатильности цен из-за автоматической торговли, а также искажение данных, которые могут стать ещё более опасными при использовании ИИ.

«Использование ИИ может приносить пользу рынкам, но без контроля оно способно создавать дисбалансы и риски, влияющие на прозрачность, честность и справедливость торгов», — подчеркнул Рати.

⚠️ В целом, регулятор подчеркивает необходимость сбалансированного подхода: инновации должны развиваться, но при этом финансовые компании должны быть защищены от новых угроз.