Медустройства с ИИ стали причиной врачебных ошибок

Искусственный интеллект начинает трансформировать здравоохранение: от диагностики до хирургии. Сторонники технологии считают, что она ускорит разработку лекарств, повысит точность операций и расширит возможности врачей. Однако, как пишет Reuters, параллельно растет число сообщений о травмах пациентов, где фигурируют медицинские системы с ИИ.

В 2021 году подразделение Johnson & Johnson добавило искусственный интеллект в навигационную систему TruDi компании Acclarent, используемую при операциях на носовых пазухах. Алгоритмы машинного обучения должны были помогать хирургам ориентироваться в анатомии пациента в режиме реального времени.

До внедрения ИИ FDA, по данным агентства, получило сообщения о семи неисправностях устройства и одном случае травмы пациента. После обновления число неподтвержденных сообщений о сбоях и неблагоприятных событиях превысило 100.

Согласно отчетам, с конца 2021 года по ноябрь 2025 года пострадали как минимум 10 человек. В ряде случаев система неверно указывала положение хирургических инструментов внутри головы пациента. Сообщалось о вытекании спинномозговой жидкости, повреждении основания черепа и инсультах после травмирования крупных артерий.

Двое пациентов подали иски, утверждая, что ИИ способствовал травмам. В одном из них говорится, что до внедрения искусственного интеллекта устройство «возможно, было безопаснее». Reuters не смогло независимо подтвердить эти обвинения.

Владелец системы, Integra LifeSciences, в свою очередь заявил агентству, что отчеты лишь фиксируют факт использования устройства в операциях с осложнениями и не доказывают причинной связи между ИИ и травмами.

Сегодня FDA одобрило не менее 1 357 медицинских устройств с ИИ — вдвое больше, чем к 2022 году. Помимо TruDi, регулятор получал сообщения о других системах: например, о кардиомониторе, пропустившем аномальные сердечные ритмы, и УЗИ-аппарате, ошибочно определявшем части тела плода.

Исследование университетов Джонса Хопкинса, Джорджтауна и Йеля показало, что 60 одобренных устройств с ИИ были связаны с 182 отзывами продукции. В 43% случаев отзыв происходил менее чем через год после допуска на рынок — почти вдвое чаще, чем у обычных медустройств.

Один из самых тяжелых эпизодов описан в иске пациентки Эрин Ральф из Техаса. В июне 2022 года ей проводили синупластику — малоинвазивную операцию при хроническом синусите, когда в пазуху вводится баллон для расширения канала. Хирург ориентировался по навигационной системе TruDi с интегрированным искусственным интеллектом, которая должна была показывать положение инструментов внутри головы в реальном времени.

По материалам суда, система «ввела врача в заблуждение»: была повреждена сонная артерия — один из ключевых сосудов, питающих мозг. Образовался тромб, позже у женщины произошел инсульт. После выписки ее состояние ухудшилось — она вернулась в больницу и провела пять дней в реанимации. Врачи были вынуждены удалить часть черепной кости, чтобы дать мозгу пространство для отека. Спустя более года, по ее словам, она все еще проходила терапию: с трудом ходила без ортеза и пыталась восстановить подвижность левой руки.

Похожий случай, как утверждается в другом иске, произошел в мае 2023 года. Во время аналогичной операции у пациентки Донны Фернихо сонная артерия, по описанию, «разорвалась» — кровь «разбрызгивалась повсюду», попав даже на представителя производителя, присутствовавшего в операционной. В тот же день у нее случился инсульт. В иске утверждается, что компания знала о проблемах точности системы и все же вывела технологию на рынок. Производитель это отрицает.

Ошибки фиксируются не только в хирургии. В одном из отчетов регулятору говорилось, что алгоритм искусственного интеллекта в системе пренатального УЗИ Sonio Detect неверно идентифицировал части тела плода, «соотнося структуры с неправильными органами». При этом вред пациентам в отчете не подтверждался, а производитель заявил, что речь не идет о проблеме безопасности.