Мужчина заболел редким синдромом после запроса в ChatGPT о прекращении употребления соли 🧂🤖

Американский медицинский журнал предупредил о рисках использования ChatGPT для получения медицинской информации после случая, когда мужчина развил редкое заболевание, консультируясь с чат-ботом о полном отказе от поваренной соли.

В статье журнала Annals of Internal Medicine описан случай 60-летнего мужчины, у которого развился бромизм, или токсичность бромида, после консультации с ChatGPT. Бромизм был известен в начале XX века и считался причиной почти каждого десятого психиатрического госпитализированного на тот период.

Пациент сообщил врачам, что, прочитав о вреде хлорида натрия, он спросил ChatGPT о замене хлорида в рационе и в течение трёх месяцев начал принимать натрий бромид. При этом он знал, что «хлорид можно заменить бромидом, но, вероятно, для других целей, например, для очистки». В начале XX века натрий бромид использовался как седативное средство.

Авторы статьи из Университета Вашингтона в Сиэтле подчеркнули, что случай демонстрирует, как использование искусственного интеллекта может способствовать развитию предотвратимых проблем со здоровьем. Поскольку исследователи не имели доступа к истории чата пациента, они не могли точно определить, какой совет получил мужчина. При собственном обращении к ChatGPT с вопросом о замене хлорида, чат-бот также предложил бромид, не дав предупреждений о рисках и не уточнив цель запроса, как сделал бы профессиональный врач.

Учёные предупредили, что ChatGPT и другие приложения ИИ могут «генерировать научные неточности, не способны критически обсуждать результаты и способствовать распространению дезинформации».

Компания OpenAI на прошлой неделе обновила ChatGPT до модели GPT-5, заявив о улучшении ответов на медицинские вопросы и более активной функции «выявления потенциальных рисков», включая серьёзные физические и психические заболевания. Однако подчеркнуто, что чат-бот не заменяет профессиональную медицинскую помощь и не предназначен для диагностики или лечения.

Случай с пациентом, по-видимому, произошёл с использованием более ранней версии ChatGPT. Авторы статьи отметили, что, хотя ИИ может быть мостом между учёными и обществом, технология несёт риск предоставления информации вне контекста, и маловероятно, что профессиональный врач предложил бы натрий бромид в качестве замены соли.

Мужчина поступил в больницу, заявив, что сосед может его отравлять, и сообщил о множественных ограничениях в рационе. Несмотря на сильную жажду, он был параноиком относительно предоставляемой воды. В течение суток после госпитализации он пытался покинуть больницу и после помещения под наблюдение получил лечение от психоза. После стабилизации состояния пациент сообщил о симптомах бромизма, включая акне на лице, повышенную жажду и бессонницу.