Давид Ауэрбах: «Крупные технологические компании отказываются признавать, что не контролируют свои сети» 🤖🌐

Давид Ауэрбах — писатель и программист, работавший в Google и Microsoft, а также преподаватель истории вычислительной техники в New Centre for Research & Practice в Сиэтле. В своей новой книге Meganets: How Digital Forms Beyond Our Control Commandeer Our Daily Lives and Inner Realities он исследует, как огромные технологические сети влияют на нашу повседневную жизнь и внутреннее восприятие мира.

Что такое «мегасеть»? 🕸️

Ауэрбах определяет мегасеть как постоянную, эволюционирующую и непрозрачную сеть данных, которая сильно влияет на то, как люди воспринимают мир. Мегасети состоят из серверов и миллионов активных пользователей, каждый из которых вносит небольшой вклад в работу алгоритмов. Результат — сильное фрагментирование общества: люди делятся на группы единомышленников, которые навязывают свои нормы, затрудняя более широкий социальный консенсус.

Социальные сети, криптовалюты и виртуальные платформы (метавселенная) являются частями этого сложного механизма взаимодействия технологий и массового участия.

Когда возникло беспокойство о мегасетях? 🤔

По словам Ауэрбаха, осознание проблемы пришло после появления социальных сетей. Именно тогда появились цикл обратной связи, когда действия людей влияли на алгоритмы, а алгоритмы — на людей. Публичный дискурс начал меняться, и стало ясно, что контроль над такими системами ограничен даже для их администраторов.

Он подчёркивает, что дело не только в жадности или безразличии компаний. «Быть злой компанией выгоднее, чем признать, что ты не контролируешь свои системы», — отмечает Ауэрбах.

Мегасети и мировое распространение 🌍

Проблема глобальная, хотя степень воздействия различается. Интересно, что авторитарные государства менее активно используют государственные мегасети, чем демократические страны, потому что риск ошибки выше для правительства. В более открытых обществах ответственность можно списать на рынок или третьих лиц.

Почему нельзя просто «выключить» мегасети? ⚡

Системы слишком сложные и распределённые. Попытка остановить их будет подобна отключению фондового рынка, только гораздо сложнее. Вместо этого необходимо снижать деструктивные эффекты и оказывать косвенное влияние на их работу.

Пример с чат-ботом Microsoft Sydney показывает, что искусственный интеллект отражает наши коллективные данные и привычки, а не существует как полностью независимый агент.

Коллективное поведение и идентичность 🧩

Ауэрбах отмечает, что мы постепенно воспринимаем себя как набор ярлыков и категорий: «Я такой-то, такой-то и такой-то». Это не столько политика идентичности, сколько процесс классификации и количественного описания. Мегасети усиливают чувство принадлежности, но делают восприятие мира более однородным и предсказуемым.

Сила децентрализованных сетей 📈

Случай с GameStop демонстрирует, что мегасети могут передавать власть пользователям, создавая коллективное воздействие, ранее невозможное. Однако это не «мудрость толпы», а скорее «хаос толпы».

Борьба с фрагментацией через хаос ⚔️

Чтобы замедлить фрагментацию общества, можно вводить разнообразие контента и мешать алгоритмам создавать слишком однородные группы. Например, TikTok уже пробует показывать более разнородные видео, чтобы не усиливать радикальные тенденции.

Книга Meganets Давида Ауэрбаха выходит 30 марта в издательстве Public Affairs. Она посвящена анализу того, как современные цифровые сети формируют наше сознание и социальное взаимодействие.

📚 Важно понимать, что контроль над такими системами ограничен, но мы можем минимизировать их негативное влияние на общество, влияя на алгоритмы косвенно и создавая более разнообразный цифровой опыт.