Мередит Уиттакер из Signal: «Настоящая власть над ИИ в руках тех, кто может его приостановить» 🤖🔒

Мередит Уиттакер, президент Signal — некоммерческого приложения для безопасных сообщений, рассказала о своём опыте работы с технологиями и о вызовах, с которыми сталкиваются крупные компании и государственные структуры в сфере ИИ и защиты данных. Signal, вместе с другими платформами, такими как WhatsApp✱, выступает против законопроекта Великобритании о «онлайн-безопасности», который предусматривает сканирование сообщений пользователей на предмет вредоносного контента.

До работы в Signal Уиттакер трудилась в Google, была соучредителем Института AI Now при Нью-Йоркском университете и консультантом Федеральной торговой комиссии США. В Google она занималась исследованием социальных последствий искусственного интеллекта, а также выступала против спорных проектов компании, таких как разработка ИИ для военных систем.

По словам Уиттакер, в корпоративной среде моральные и этические соображения часто отодвигаются на второй план в пользу прибыли и роста. Она отмечает: «Если бы кто-то в Google предложил отказаться от контракта ради моральных соображений, его бы мгновенно уволили».

Уиттакер подчёркивает, что алгоритмы ИИ не нейтральны: они обучаются на данных, отражающих исторические и современные неравенства и предубеждения. Попытки исправить такие искажения часто сталкиваются с сопротивлением, поскольку это требует изменения структуры компаний и перераспределения влияния.

Она также критикует недавние инициативы, предлагающие «приостановку ИИ» через открытые письма. «Настоящие рычаги воздействия находятся у тех, кто имеет власть напрямую отключить системы или сообщить о нарушениях», — поясняет она.

Выбор работы в Signal для Уиттакер был связан с возможностью защищать приватность пользователей в мире, где крупные корпорации контролируют большую часть коммуникаций. Компания категорически заявляет, что не пойдёт на компромиссы с шифрованием и приватностью, даже если законопроект о «онлайн-безопасности» будет принят.

Она подчёркивает, что идеи о «клиентском сканировании» сообщений, позволяющем одновременно сохранять приватность и контролировать контент, на практике нереализуемы. Система потребует огромных ресурсов, постоянного вмешательства человека и приведёт к блокировкам пользователей, влияя на их жизнь, работу и экономику.

Уиттакер делает вывод: популярный ажиотаж вокруг ИИ создаёт иллюзию сверхспособностей технологий, что вводит в заблуждение как общественность, так и некоторых политиков. Настоящая сила воздействия на ИИ — в руках тех, кто может реально контролировать и останавливать эти системы, а не в декларациях и заявлениях. ✨

* Упомянутые организации запрещены на территории РФ