«Не будем доверять машинам»: современные луддиты и их предупреждение о рисках ИИ 🤖⚡

Элиезер Юдковский, 44-летний исследователь из Калифорнии, спокойно объясняет, что человечество может оказаться на грани исчезновения из-за самосознающих машин. По его словам, шанс на выживание крайне мал: «Если ставить вероятности, оставшееся время человечества выглядит скорее как пять лет, чем пятьдесят», — говорит он, предполагая сценарии наподобие «Терминатора» или «Матрицы».

Юдковский, один из основателей Института исследований машинного интеллекта в Беркли, когда-то участвовал в создании ИИ. Теперь он уверен, что эти технологии могут развиться до уровня сверхинтеллекта, слишком быстрого и амбициозного, чтобы люди могли его контролировать. Он даже писал статьи о необходимости приостановки работы центров обработки данных, где «выращиваются» ИИ, вплоть до радикальных мер вроде ударов по этим объектам.

В то же время, в более спокойной атмосфере южного Лондона, подкастер и журналист Ник Хилтон развивает новое луддистское движение — современное переосмысление старинной идеи противодействия разрушительным последствиям технологий. Хилтон объясняет, что сегодня луддизм — это не отказ от технологий, а критическое отношение к ним. «Просто потому, что технология существует, это не значит, что она должна быть принята без вопросов», — говорит он.

Другие современные луддиты, такие как писатель Эдвард Онгвесо и художница Молли Крабэппл, видят смысл в проверке технологий на справедливость и на возможный вред обществу. Крабэппл подчёркивает: «Технологическое развитие формируется деньгами и властью, и чаще всего оно служит интересам тех, кто у власти, а не обычных людей».

Для современных луддитов важны не абстрактные угрозы, как у Юдковского, а реальные последствия технологий в повседневной жизни. Контроль за работниками, слежка, использование ИИ для автоматизации труда — всё это вызывает опасения. История луддитов XVIII–XIX веков, протестовавших против машин, угрожавших их рабочим местам, остаётся символом сопротивления.

Люди вроде Хилтона используют подкасты, открытые письма и акции протеста, чтобы привлечь внимание к проблемам эксплуатации творческого труда ИИ и вмешательству технологий в личную жизнь. Группы вроде TrashFuture предлагают ограниченные законодательные меры и акции против центров обработки данных, чтобы защитить интересы общества.

Современные луддиты не стремятся остановить прогресс полностью. Их цель — переосмыслить его, заставить людей задуматься о последствиях. Они хотят, чтобы технологии работали на всех, а не только на прибыль и власть. «Классический луддизм потерпел поражение, но идея сохраняется», — говорит Хилтон. «Символ разрушенного станка живёт в истории и напоминает о том, что нужно задумываться о будущем технологий».

Таким образом, новые луддиты предлагают современную форму сопротивления, в которой критическое мышление и общественный контроль за технологиями становятся важнее безусловного принятия инноваций. 🌱⚙️