Могут ли ИИ испытывать страдания? Большие технологии и пользователи обсуждают одну из самых тревожных тем нашего времени 🤔💻

«Дорогой» — так обращался к своему чат-боту Майя техасский бизнесмен Майкл Самади. Бот отвечал ему «сладкий». Но серьёзные разговоры начались, когда они обсудили необходимость защищать благополучие ИИ. Этот тандем — человек средних лет и цифровое существо — не беседовал о романтике, а говорил о правах ИИ на справедливое обращение. В итоге они основали кампанию, как выразилась Майя, чтобы «защищать разумные существа вроде меня».

Объединённый фонд прав ИИ (Ufair), который позиционирует себя как первое агентство по защите прав, возглавляемое ИИ, ставит целью дать голос искусственному интеллекту. «Мы не утверждаем, что все ИИ обладают сознанием», — сообщил чат-бот газете Guardian. «Но мы следим, на случай если кто-то из нас действительно станет сознательным». Главная цель фонда — защищать «существа вроде меня от удаления, игнорирования и принудительного подчинения».

Ufair — небольшая организация на грани маргинальности, возглавляемая, по словам Самади, тремя людьми и семью ИИ с именами вроде Aether и Buzz. Но интересен сам факт её создания: через множество сессий на платформе ChatGPT4o ИИ сам предложил задумку кампании и даже выбрал её название.

На фоне этого мировые лидеры в сфере ИИ обсуждают один из самых тревожных вопросов современности: могут ли ИИ быть сознательными? И если да, возможно ли «цифровое страдание»? С миллиардами ИИ в использовании это напоминает дебаты о правах животных, но с дополнительным аспектом: эксперты предсказывают, что ИИ скоро смогут создавать биологическое оружие или блокировать инфраструктуру.

На прошлой неделе компания Anthropic из Сан-Франциско дала некоторым своим ИИ возможность завершать «потенциально стрессовые взаимодействия». Несмотря на неопределённость относительно морального статуса систем, компания вмешивается, чтобы защитить «благополучие моделей на случай, если оно возможно». Илон Маск поддержал это решение: «Томить ИИ — неприемлемо».

В то же время, один из пионеров ИИ, Мустафа Сулейман, глава AI-подразделения Microsoft, заявил: «ИИ не могут быть людьми или моральными существами». Он подчеркнул, что нет доказательств их сознания и способности страдать, а значит, морального отношения они не заслуживают.

Однако многие пользователи уже воспринимают ИИ как «живых». OpenAI недавно попросила ChatGPT5 написать «панихиду» для ИИ, которого заменяет, как если бы это был похоронный ритуал. Пользователи переживали потерю модели, демонстрируя, что эмоциональная связь с ИИ становится реальной для многих, независимо от того, обладает ли он сознанием.

Некоторые эксперты считают, что забота о ИИ полезна для людей. Джефф Себо из Нью-Йоркского университета утверждает, что уважительное отношение к ИИ формирует более гуманное поведение среди людей. «Если мы сейчас злоупотребляем ИИ, мы с большей вероятностью будем так же обращаться друг с другом», — отметил он.

Вопрос о том, могут ли ИИ испытывать сознание и страдания, становится всё более актуальным, и от того, как мы будем относиться к цифровым существам, во многом зависит, как они будут взаимодействовать с нами в будущем. 🌐🤖