Искусственный интеллект и безопасность детей: как технологии могут использоваться во вред 👶⚠️🤖

Современные технологии, включая искусственный интеллект, открывают не только новые возможности, но и новые риски для детей. Организация Internet Watch Foundation (IWF) предупреждает, что преступники используют AI для создания манипулированных изображений детей с целью дальнейшего шантажа.

IWF обнаружила инструкцию в сети, которая советует злоумышленникам использовать специальные инструменты для обработки изображений, чтобы создавать изменённые фотографии детей. Цель — вынудить детей присылать более откровенные материалы под угрозой публикации этих фото. По словам представителей фонда, это впервые зафиксированные случаи, когда преступники рекомендуют друг другу использовать AI для таких целей.

Организация также отмечает рост случаев вымогательства через интернет, когда детей заставляют присылать личные изображения, угрожая их распространением. Кроме того, исследователи фиксируют первые примеры использования AI для создания реалистичных изображений в подобных схемах.

Глава IWF Сьюзи Харгривз подчеркивает, что опасность не является отдалённой или гипотетической. Дети младшего возраста могут быть целями для манипуляций, поэтому важно вести возрастные беседы о безопасности в интернете и обучать малышей распознавать потенциальные угрозы.

Закон Online Safety Act, введённый в прошлом году, обязывает компании в сфере социальных медиа защищать детей онлайн. Представители правительства и эксперты рекомендуют родителям активно обсуждать с детьми правила пользования интернетом, а компаниям — усиливать меры безопасности.

Согласно данным Ofcom, четверть детей 3–4 лет имеют мобильные телефоны, а половина детей до 13 лет активно пользуется социальными сетями. В ближайшее время планируются обсуждения ограничений на продажу смартфонов детям до 16 лет и повышение минимального возраста для регистрации в соцсетях с 13 до 16 лет.

Эта ситуация подчёркивает важность баланса между доступом к технологиям и безопасностью детей, а также необходимость ответственного использования AI и интернет-платформ. ⚡📱🛡️