Британский регулятор обратил внимание на Snapchat из-за чат-бота на базе ИИ 🤖📱

Snapchat может столкнуться с крупным штрафом после того, как британский регулятор данных, Information Commissioner’s Office (ICO), выпустил предварительное уведомление о возможных нарушениях в работе искусственного интеллекта My AI. Основная претензия — якобы недостаточная оценка рисков для конфиденциальности пользователей, особенно детей.

Причины проверки 🔍

ICO выявил, что владелец приложения, компания Snap, не провёл должную оценку возможных рисков для миллионов пользователей Snapchat в Великобритании, включая подростков в возрасте 13–17 лет. В стране у сервиса 21 миллион активных пользователей в месяц, а почти половина аудитории — люди до 24 лет.

По предварительным данным, около 18% пользователей — подростки от 12 до 17 лет. Джон Эдвардс, комиссар по информации, отметил:

«Предварительные результаты расследования указывают на тревожный недостаток оценки рисков для конфиденциальности детей и других пользователей перед запуском My AI».

ICO подчеркнул, что это только предварительная оценка, и Snap имеет время до 27 октября, чтобы предоставить свои объяснения, прежде чем будет принято окончательное решение.

Возможные последствия ⚠️

Если будет вынесено окончательное уведомление о нарушении, Snap придётся временно остановить обработку данных My AI для британских пользователей до проведения полноценной оценки рисков.

Кроме того, регулятор имеет право назначить штраф до 4% глобальной выручки компании или максимум £17,5 млн. В прошлом году Snap заработал \$4,6 млрд (£3,8 млрд) по всему миру.

My AI и подход Snap 💬

Сервис My AI использует технологию GPT от OpenAI и стал первым примером интеграции генеративного ИИ в крупной мессенджер-платформе в Великобритании. Он был запущен для подписчиков Snapchat+ в феврале и стал доступен всем пользователям в апреле.

Представитель Snap отметил:

«Мы внимательно изучаем предварительное решение ICO. My AI прошёл строгую проверку с точки зрения права и конфиденциальности перед запуском. Мы продолжим работать с регулятором, чтобы подтвердить корректность нашей оценки рисков».

Итог 📝

ICO демонстрирует серьёзный подход к защите конфиденциальности пользователей, особенно детей, в эпоху искусственного интеллекта. Snap пока сотрудничает с регулятором и пересматривает свои процедуры, чтобы соответствовать требованиям.

📌 Внимание к ИИ и конфиденциальности становится всё более актуальным для социальных платформ, и компании должны заранее оценивать возможные риски для пользователей.