Геологи обеспокоены возможной цензурой и предвзятостью в новом чат-боте GeoGPT 🌍🤖

Группа геологов выразила опасения по поводу возможной цензуры и предвзятости в чат-боте GeoGPT, разрабатываемом при поддержке Международного союза геологических наук (IUGS), одного из крупнейших научных организаций мира и партнёра ЮНЕСКО.

GeoGPT создаётся для геонаучных специалистов и исследователей, особенно в странах глобального юга, чтобы помочь им углубить понимание наук о Земле, используя огромные объёмы данных о геологической истории планеты. Проект реализуется в рамках программы Deep-time Digital Earth (DDE), основанной в 2019 году с целью развития международного научного сотрудничества и поддержки выполнения целей устойчивого развития ООН.

Часть искусственного интеллекта, лежащего в основе GeoGPT, — это модель Qwen, разработанная китайской компанией Alibaba. По словам профессора Пола Клеверли, геолога и специалиста по компьютерным наукам, тестировавшего предварительную версию чат-бота, GeoGPT имеет «серьёзные проблемы с прозрачностью, возможной цензурой и потенциальным нарушением авторских прав».

В ответ представители DDE подчеркнули, что GeoGPT также использует другую модель — Llama, и во время тестирования не было обнаружено вмешательства государства, так как система основана исключительно на геонаучной информации. По их словам, многие проблемы с GeoGPT уже решены, а команда продолжает работать над улучшением системы. На данный момент чат-бот ещё не выпущен и не доступен широкой публике.

Некоторые специалисты указывают на потенциальный риск предвзятости. Например, при вопросе о количестве погибших на горнодобывающем объекте в Гане, управляемом китайской компанией, Qwen предоставлял общую информацию без конкретных деталей, тогда как другой чат-бот мог предоставить более точные сведения о происшествиях.

Руководитель международных отношений DDE отметил, что команда GeoGPT обладает полной независимостью, а пользователи смогут выбирать между моделями Qwen и Llama. Также обсуждалась ценность геонаучных данных, включая информацию о минеральных ресурсах, таких как литий, важный для экологического перехода.

Эксперты подчеркивают необходимость прозрачности, особенно в международных проектах. Условия использования GeoGPT запрещают генерацию контента, который «подрывает национальную безопасность» или «побуждает к нарушению государственной власти», а юрисдикция проекта регулируется законами Китая.

Президент IUGS сообщил, что база данных GeoGPT станет доступной публично только при соблюдении всех требований к управлению и прозрачности. Как только проект откроется для общественности, его обучающая база будет доступна исследователям, которые желают с ней работать.

Финансирование программы DDE почти полностью обеспечивается источниками из Китая, но проект остаётся частью международного союза IUGS, объединяющего более миллиона геонаучных специалистов из 121 страны. Организация подчёркивает важность открытого обмена данными для науки и развития исследований в разных странах.

GeoGPT представляет собой перспективный инструмент для геонаучного сообщества, однако эксперты подчеркивают необходимость постоянного контроля за прозрачностью и нейтральностью данных, чтобы обеспечить объективность и пользу для международного научного сообщества.