ИИ прописал яд: врач из Тольятти рассказал, почему опасно доверять здоровье ChatGPT

Признавайтесь, вы хоть раз проверяли симптомы в ChatGPT? Но задумывались ли вы, откуда он берет свои ответы и насколько они актуальны? Как говорят доктора, нейросети не обязаны соблюдать медицинскую конфиденциальность (HIPAA), не имеют доступа к последним клиническим рекомендациям, а главное, не несут ответственности за ваше здоровье. И как же тут быть?

Главный врач из Тольятти популярно объяснил, почему не следует слепо доверять ChatGPT и как им пользоваться с умом. Читайте колонку нашего эксперта Сергея Тетюшкина.

Недавно провели опрос и выяснилось, что большинство людей доверяют мнению нейросетей. Однако, стоит предупредить, что консультации по здоровью, созданные с помощью искусственного интеллекта, могут быть опасными и никогда не должны заменять рекомендации лицензированного медицинского работника.

Последствия необдуманного следования советам ИИ могут быть опасны для жизни. Однажды ChatGPT предложил заменить 60-летнему мужчине поваренную соль бромидом натрия* — в итоге мужчина сильно отравился и три недели лечился в психиатрической клинике.

1. У чат-ботов с искусственным интеллектом нет ваших медицинских записей. И лучше, если не будет: где гарантия, что ваши личные персональные данные о здоровье защищены и не «уплывут» налево?

2. Они не имеют ваших личных медицинских карт и не способы дать надежные рекомендации по новым симптомам, существующему состоянию или предупредить, что необходима экстренная помощь.

3. Информация, выданная ИИ, может быть устаревшая или неточная.

Генеративный ИИ полагается на данные, на которых он был обучен. Далеко не факт, что в него «заложили» самые последние медицинские открытия и актуальные советы. Только недавно центры по контролю и профилактике заболеваний начали рекомендовать ставить новую прививку от гриппа людям от 6 месяцев и старше. И я не уверен, что все чат-боты в курсе последних событий.

Еще популярные чат-боты — Gemini, Microsoft Copilot и ChatGPT — научились генерировать приличные планы питания для похудения. Вот только они не в состоянии сбалансировать макроэлементы: углеводы, белки, жиры и жирные кислоты.

Опасно и то, что даже если чат-бот ошибается, он все равно звучит уверенно, убедительно, ему веришь.

Но раз есть нейросети, то нужно учиться ими пользоваться. Как же это делать в случаях, касающихся здоровья? Я согласен с коллегами, которые считают, что ИИ может помочь грамотнее формулировать вопросы для лечащего врача и объяснять сложные медицинские термины. Диагностику, а тем более назначение лечения оставьте нам, докторам.

Сергей Тетюшкин — один из врачей автограда, которые активно пропагандируют здоровый образ жизни и дают рекомендации — как грамотно следить за здоровьем. Недавно он советовал по-умному разжигать метаболизм, чтобы активнее расставаться с лишним весом. Чуть ранее рассказывал про «тревожные звоночки» — признаки слабоумия.