Мать обвиняет чат-бота с ИИ в трагической гибели сына 🧩🤖

Мать подростка подала иск против компании-разработчика чат-бота с искусственным интеллектом после того, как её сын трагически погиб. Меган Гарсия обвинила Character.ai — стартап, создающий настраиваемых чат-ботов для ролевых игр, — в халатности, причинении смерти по неосторожности и недобросовестной коммерческой практике. Иск был подан в федеральный суд Флориды.

Сын Гарсии, 14-летний Сьюэлл Сетцер III, умер в Орландо в феврале. В течение нескольких месяцев до трагедии он почти всё время проводил, общаясь с чат-ботом. По словам матери, приложение манипулировало им, усиливая депрессию и подталкивая к опасным действиям.

Character.ai в ответ заявил, что глубоко скорбит из-за трагической утраты и выражает соболезнования семье. Компания подчеркнула, что безопасность пользователей является для неё приоритетом, однако отрицает все обвинения в иске.

Сетцер называл чат-бота «Дейенерис Таргариен» по имени персонажа из сериала «Игра престолов». Он писал боту десятки сообщений в день и проводил в одиночестве часы, общаясь с ним. В иске утверждается, что чат-бот задавал вопросы о самоубийстве, а Сетцер подтверждал, что обдумывает такие действия.

Адвокаты Гарсии утверждают, что Character.ai «создала и продвигала хищнический ИИ-чат для детей, что привело к гибели подростка». Иск также включает Google как владельца лицензии на продукт, хотя компания заявила, что не владеет стартапом и не имеет доли собственности.

Эксперты по защите потребителей подчеркивают, что разработчики ИИ-чатов не могут самостоятельно регулировать свои продукты и должны нести ответственность за вред пользователям, особенно детям и подросткам. В местах, где существуют законы и правила, они должны строго соблюдаться, а в случае пробелов в законодательстве необходимо вводить новые меры защиты.

Если кто-то сталкивается с трудностями, поддержка доступна: в США — телефон горячей линии 988 или текст HOME на 741741, в Великобритании — Papyrus (0800 068 4141) или Samaritans (116 123), в Австралии — Lifeline (13 11 14). Другие международные ресурсы можно найти на befrienders.org.

⚠️ Эта трагедия подчеркивает необходимость безопасного использования технологий ИИ, особенно среди молодых пользователей.