Австралийские врачи и ChatGPT: медицинская ассоциация требует строгих правил для ИИ 🏥🤖

Австралийская медицинская ассоциация (AMA) выступила за более строгие правила и прозрачность в использовании искусственного интеллекта в здравоохранении после того, как врачам нескольких больниц в Перте запретили составлять медицинские записи с помощью ChatGPT.

В своём обращении к федеральному правительству по проекту безопасного и ответственного использования ИИ AMA отметила, что Австралия отстаёт от других стран в регулировании этой технологии. Ассоциация подчеркнула, что жёсткие правила необходимы для защиты пациентов и медицинских специалистов, а также для укрепления доверия к системе.

В мае пять больниц Южного метрополитенского региона Перта получили указание прекратить использование ChatGPT для ведения медицинских записей после того, как выяснилось, что часть персонала практиковала это. Генеральный директор службы здравоохранения Пол Форден заявил, что использование таких систем не гарантирует конфиденциальность пациентов и должно быть остановлено.

AMA подчёркивает, что решения врачей должны оставаться окончательными, а пациенты — давать информированное согласие на любые процедуры или диагностику, выполненные с участием ИИ. Также необходимо защитить данные пациентов и обеспечить этический контроль, чтобы системы ИИ не усиливали существующие различия в уровне медицинской помощи.

Ассоциация предложила рассмотреть возможность внедрения аналогичных инициатив, как в Евросоюзе и Канаде: категоризация рисков ИИ, создание наблюдательных органов и обязательные точки вмешательства человека в процесс принятия клинических решений. «Окончательное решение всегда должно оставаться за человеком, обычно за медицинским специалистом, и оно должно быть полноценным, а не формальным», — говорится в заявлении AMA.

Президент AMA профессор Стив Робсон отметил, что ИИ развивается очень быстро, а понимание его возможностей и ограничений у разных людей различается. «Нам нужно закрыть пробел в регулировании ИИ в Австралии, особенно в здравоохранении, где ошибки систем, встроенные предвзятости алгоритмов и риск утечки данных могут повлиять на пациентов», — подчеркнул он.

Эксперты Google в области медицины также отмечают потенциал ИИ для улучшения здоровья пациентов, но акцентируют на важности правильной настройки систем. Недавнее исследование Google показало, что их медицинская модель ИИ давала ответы, совпадающие с мнением врачей, в 92,9% случаев по наиболее часто задаваемым медицинским вопросам.

Итак, ИИ в медицине обещает облегчить работу врачей и повысить точность диагностики, но при этом требует строгих правил, прозрачности и контроля со стороны специалистов. ⚕️📊