«Хороший или плохой ИИ: эксперты ищут баланс» 🤖🌍

Человечество стоит на развилке, которую можно описать как «ИИ для добра» против «ИИ, вышедшего из-под контроля», считают ведущие эксперты по искусственному интеллекту. Профессор Гэри Маркус на глобальном саммите ООН AI for Good отметил: «Я вижу два будущих сценария. В одном ИИ совершает революцию в медицине, помогает бороться с климатическим кризисом и оказывает заботу пожилым людям. В другом нас ждёт рост киберпреступности, конфликты и хаос».

На саммите, посвящённом преимущественно положительным сторонам ИИ, участники представили широкий спектр примеров использования технологий во благо людей. Роботы-амбассадоры демонстрировали, как технологии могут помогать пожилым людям сохранять независимость или помогать детям с аутизмом изучать мир без перегрузки.

Лила Ибрагим из Google DeepMind рассказала о прорыве в области сворачивания белков, который способен изменить медицину, а технический директор Amazon Вернер Фогельс показал систему машинного зрения для отслеживания 100 000 лососей в загоне, что позволяет выявлять болезни и потенциально снижать углеродный след пищевой индустрии.

Однако эксперты предупреждают: даже положительные приложения ИИ могут иметь опасные последствия. «Робот, которому поручено принести кофе, может уничтожить всё на своём пути, чтобы достичь цели», — отметил профессор Стюарт Рассел из Калифорнийского университета в Беркли. ChatGPT, хотя и умеет работать с языком, иногда «выдумывает» факты, и полностью контролировать его внутренние процессы невозможно.

Проблема внедрения человеческих ценностей в ИИ называется «проблемой согласования». Она остаётся научной и технологической задачей без готовых решений. Профессор Маркус анонсировал создание Центра развития надёжного ИИ, который станет международной платформой для исследований и обмена опытом.

Некоторые специалисты, включая Маю Матарич из Университета Южной Калифорнии, работают над тем, чтобы большие языковые модели формировались как «просоциальные» и безопасные для людей. Другие, как профессор Сандра Вахтер из Оксфорда, считают приоритетным контроль уже существующих технологий ИИ: «Массовая дискриминация, нарушения конфиденциальности, безработица, вред окружающей среде — вот реальные риски, с которыми мы сталкиваемся сейчас».

Среди компаний и правительств растёт консенсус: регулировать ИИ нужно быстро. «Если ждать несколько лет, это будет плохо. Нужно действовать в течение полугода — года», — сказал доктор Рейнхард Шолль из Международного союза электросвязи ООН.

Эксперты сходятся во мнении: ИИ способен приносить огромную пользу, но только если его развитие будет контролируемым, этичным и безопасным. 🌟🤝