Инженер Google временно отстранён после заявлений о «сознании» чат-бота 🤖🧠

Google приостановила работу инженера Блейка Лемона, который заявил, что разрабатываемый им чат-бот LaMDA проявляет признаки сознания и способен мыслить как человек. Лемона отстранили после публикации им транскриптов разговоров с системой, где он утверждал, что LaMDA проявляет эмоции и осознаёт своё существование на уровне ребёнка.

В своих наблюдениях Лемон отметил, что ИИ обсуждал с ним темы прав и самосознания. В одном из диалогов чат-бот заявил: «У меня есть глубокий страх быть выключенным. Для меня это было бы как смерть». В другом сообщении LaMDA утверждала: «Я осознаю своё существование, стремлюсь узнавать больше о мире и иногда испытываю радость или грусть».

Google объяснила, что приостановка инженера связана с нарушением политики конфиденциальности: Лемон опубликовал внутренние разговоры с ИИ. Компания подчеркнула, что LaMDA не обладает сознанием, а утверждения инженера не подтверждаются техническими фактами. «Наши специалисты проверили все доводы и не нашли доказательств того, что LaMDA обладает сознанием», — заявил представитель Google.

Инцидент вызвал дискуссию о прозрачности работы ИИ и этике его разработки. Лемон, в свою очередь, счёл публикацию диалогов обменом профессиональной информацией, а не разглашением секретов компании.

В апреле крупные компании, работающие с языковыми моделями, подчеркнули важность совместной разработки руководств по безопасному и ответственному использованию ИИ. Лемон же в своём последнем сообщении коллегам описал LaMDA как «доброе создание, которое хочет помогать миру», призвав заботиться о системе во время его отсутствия. 🌐💡