Врачи, испытывающие высокую нагрузку, всё чаще прибегают к помощи ИИ-ассистентов, или так называемых медицинских скрайберов. Эти системы автоматически суммируют беседы с пациентами, диагнозы и решения по лечению, превращая их в структурированные записи для медицинских карт. Однако недавний аудит, проведённый генеральным аудитором канадской провинции Онтарио, выявил тревожную тенденцию: ИИ-скрайберы, рекомендованные провинциальным правительством, регулярно генерируют неверную, неполную и вымышленную информацию. В отчёте говорится, что это может «потенциально привести к неадекватным или вредным планам лечения, которые могут повлиять на здоровье пациентов».
В рамках проверки «Использование искусственного интеллекта в правительстве Онтарио» аудиторы протестировали транскрипцию двух смоделированных разговоров между врачом и пациентом. Тестирование охватило 20 вендоров ИИ-скрайберов, которые были одобрены и предварительно квалифицированы правительством для закупки медучреждениями.
Результаты оказались неутешительными: все 20 систем показали проблемы с точностью или полнотой данных хотя бы в одном из тестов. Конкретные нарушения распределились следующим образом:
- 9 систем «галлюцинировали», то есть выдумывали информацию о пациенте.
- 12 систем некорректно записывали данные.
- 17 систем пропустили ключевые детали в обсуждении проблем с психическим здоровьем.
В отчёте приводятся конкретные примеры ошибок, которые могут напрямую и негативно повлиять на последующее лечение пациентов. Среди них — случаи, когда ИИ-помощник:
- Выдумал несуществующие направления на анализы крови или терапию.
- Неправильно расшифровал названия выписанных лекарств.
- Пропустил важные детали обсуждения психического здоровья пациента.
Эти данные ставят под сомнение текущую готовность подобных ИИ-инструментов для ответственной клинической работы без тщательного контроля со стороны человека.
