Глава Google предупреждает о возможном вреде ИИ при неправильном использовании 🤖⚠️

Глава Google Сундар Пичаи заявил, что беспокойство о развитии искусственного интеллекта (ИИ) не даёт ему спать, и подчеркнул, что технология может быть «очень опасной», если её использовать неправильно. Он также призвал к созданию глобальных правил для регулирования ИИ, сравнив их с международными договорами по контролю над ядерным оружием, чтобы конкуренция в области технологий не приводила к игнорированию вопросов безопасности.

В интервью программе CBS «60 минут» Пичаи отметил: «ИИ может быть очень опасным, если его применять неправильно. Мы ещё не знаем всех ответов, а технология развивается очень быстро. Так что да, это не даёт мне покоя».

Компания Alphabet, владеющая Google, также владеет британской компанией DeepMind и запустила чат-бота Bard на основе ИИ в ответ на популярность ChatGPT от американской компании OpenAI.

По словам Пичаи, правительства должны разработать глобальные рамки для регулирования ИИ по мере его развития. В прошлом месяце тысячи экспертов и исследователей в области ИИ подписали письмо с предложением на полгода приостановить создание «гигантских» ИИ из-за опасений неконтролируемого развития технологий.

ИИ, используемый в ChatGPT и Bard, известен как Large Language Model — система, обученная на огромном массиве данных из интернета, способная генерировать осмысленные ответы в самых разных форматах: от стихов до научных эссе и кода. Системы генерации изображений, такие как Dall-E и Midjourney, вызывают удивление и тревогу, создавая реалистичные картинки, например, известных личностей в необычной одежде.

Пичаи отметил, что ИИ может быть опасен из-за возможности создавать дезинформацию: «С помощью ИИ можно легко смонтировать видео так, чтобы казалось, будто кто-то сказал что-то, чего на самом деле не было. На социальном уровне это может причинить большой вред».

При этом текущая версия Bard, доступная пользователям, считается безопасной, а более продвинутые версии Google тестирует в ограниченном доступе.

Глава компании признал, что ИИ остаётся «чёрным ящиком»: специалисты не всегда могут объяснить, почему система даёт те или иные ответы. На вопрос о том, почему Google выпустил Bard, не понимая полностью его работы, Пичаи ответил: «Мы не до конца понимаем работу человеческого мозга тоже».

Он добавил, что общество пока не готово к быстрому развитию ИИ: «Существует несоответствие между тем, как быстро люди адаптируются к изменениям, и темпом, с которым развивается ИИ».

Тем не менее Пичаи отметил положительный момент — люди быстрее начали осознавать потенциальные опасности технологии: «По сравнению с другими технологиями, я вижу, что больше людей обеспокоено ИИ на раннем этапе».

Экономическое влияние ИИ будет значительным, так как он затронет все отрасли. Пример из медицины: через пять–десять лет радиолог сможет работать вместе с ИИ-ассистентом для приоритизации случаев. Также это коснётся «умственных» профессий: писателей, бухгалтеров, архитекторов, инженеров и программистов.

ИИ становится одной из самых значимых технологий современности, способной трансформировать продукты и процессы во всех сферах. 🌐✨