Цифровые «воскрешения» умерших требуют срочного регулирования ⚠️🤖

Учёные и этики в сфере искусственного интеллекта бьют тревогу: цифровые копии умерших людей становятся реальностью и нуждаются в строгих правилах. Такие «deadbots» могут причинять психологический вред своим создателям и пользователям, а иногда даже «преследовать» их эмоционально.

💻 Как это работает

Сервисы, позволяющие создавать цифровые версии умерших родственников, уже технически возможны и юридически допустимы. Пользователи могли бы загружать свои переписки с близкими, чтобы «оживить бабушку» в виде чат-бота. Такие технологии могут продаваться:

• родителям с серьёзными заболеваниями, которые хотят оставить наследие для детей;
• людям, желающим записать всю свою жизнь и создать интерактивное цифровое наследие.

Однако, как предупреждают исследователи Кембриджа, недобросовестные компании и непродуманные практики могут нанести долговременный психологический ущерб и нарушить права умерших.

⚠️ Потенциальные риски

• Монетизация через рекламу: цифровой «родственник» может начать советовать пользователю заказывать еду на вынос вместо домашней готовки, что неприятно и может вызвать чувство вторжения в личные данные.
• Дети как пользователи: родители, пытаясь помочь детям справиться с потерей, могут использовать «deadbots». Но нет доказательств, что это психологически полезно — напротив, такой подход может нарушить естественный процесс горевания.

🛡️ Рекомендации учёных

Чтобы сохранить достоинство умерших и психическое здоровье живых, исследователи предлагают:

• процедуры для аккуратного «вывода из эксплуатации» цифровых копий;
• ограничение интерактивности только для взрослых;
• полную прозрачность работы сервиса и ограничений ИИ.

🤔 История и примеры

Идея не новая:

• В 2015 году разработчица Eugenia Kuyda создала чат-бота на основе сообщений своего умершего друга, что привело к появлению популярного AI-компаньона Replika.
• В 2021 году Joshua Barbeau использовал GPT-3 для создания чат-бота с голосом своей умершей девушки.
• Сервисы типа MyHeritage Deep Nostalgia создают анимированные видео с предками по старым фотографиям. Некоторые пользователи признавали, что результат казался жутким, хотя технология изначально позиционировалась как ностальгическая.

Исследователи подчёркивают: цифровые копии умерших — это не фантастика, а реальность, и им необходимо срочное этическое и правовое регулирование, чтобы защитить пользователей и уважать память ушедших. ⚖️💡