ВОЗ перечислила риски использования ChatGPT при постановке диагнозов

Опубликовано: 16 мая 2023, 17:45 Категория: Общество

Организация призвала с осторожностью использовать искусственный интеллект в медицине, отметив, что чат-боты могут предоставлять неверную информацию о здоровье и делиться чувствительными данными о болезнях пользователей









Фото: The University of Texas at Austin / Reuters


Фото: The University of Texas at Austin / Reuters

Использовать искусственный интеллект (ChatGPT, Bard, Bert и подобные платформы) в медицинских целях необходимо с осторожностью, предупредили во Всемирной организации здравоохранения (ВОЗ). Там отметили, что чат-боты все чаще применяют в здравоохранении при постановке диагнозов, особенно «в условиях ограниченных ресурсов», но перед этим необходимо тщательно исследовать риски.

В числе опасений в организации назвали:

  • искусственный интеллект могут обучать на предвзятых данных, из-за чего он может генерировать «ложную или неточную информацию, которая может принести ущерб здоровью и инклюзивности»;
  • иногда чат-боты генерируют ответы, которые кажутся пользователю достоверными и правдоподобными, но на деле являются совершенно неверными;
  • не все чат-боты обучены защищать предоставленную им пользователем чувствительную информацию, с том числе касающуюся его здоровья;
  • чат-боты могут генерировать информацию в форме текста, аудио- и видеоконтента, которая выглядит «очень убедительно», а пользователи не всегда в состоянии отличить обман от достоверных данных.

    • «ВОЗ одобрительно относится к надлежащему использованию технологий, включая LLM (большие языковые модели. — РБК), в помощь специалистам в области здравоохранения, пациентам, исследователям и ученым, если опасения, что осторожность, с которой обычно относятся к любой новой технологии, не возникает в случае с LLM», — объяснили свою позицию в организации. Там подчеркнули важность «прозрачности, инклюзивности, участия общественности, контроля экспертов и тщательной оценки» прежде, чем искусственный интеллект начнут активно использовать в здравоохранении.

    В феврале американские исследователи — авторы опубликованного в журнале PLOS Digital Health исследования сообщили, что ChatGPT сдал медицинский экзамен USMLE, который дает право работать врачом в США. Чат-бот ответил на 88,9% вопросов теста и преодолел проходной порог в 60%.