- Искусственный интеллект внедряется в медицинские устройства, но с этим растёт число сообщений об ошибках и травмах пациентов.
- Система TruDi от Johnson & Johnson была отозвана после нескольких серьёзных инцидентов, включая операции с инсультами и повреждениями черепа.
- FDA испытывает трудности с регулированием и контролем устройств с ИИ из-за нехватки специалистов и устаревших методов оценки.
Недавнее расследование Reuters выявило серьёзные проблемы, связанные с внедрением искусственного интеллекта в медицинские устройства, используемые для хирургии и диагностики. В частности, внимание сосредоточено на системе TruDi, разработанной компанией Acclarent (входит в Johnson & Johnson), предназначенной для помощи хирургам при операциях на пазухах носа. Технология использовала алгоритмы машинного обучения для обозначения анатомических участков и навигации инструментов. Однако после её внедрения зарегистрировано множество случаев неправильного функционирования, приведших к травмам пациентов, включая инсульты и повреждения черепа.
Устройство было выведено с рынка после трёх лет эксплуатации. За этот период FDA получило более сотни сообщений о сбоях, а как минимум десять пациентов пострадали в результате ошибок навигации. Среди инцидентов — повреждение сонной артерии, что привело к инсультам и серьёзным осложнениям. В нескольких судебных делах обвиняют именно навигационную систему с ИИ, указывая на её дезинформацию врачей во время операций. В то же время компания-разработчик отрицает прямую причастность к созданию устройства, утверждая, что выступала только распространителем.
Общее число медицинских приборов с ИИ, одобренных FDA, превысило 1350, и система TruDi стала далеко не единственной спорной. Сообщается также о других устройствах, например, кардиомониторах и ультразвуковых аппаратах с ошибками распознавания, создающими угрозу для пациентов. Анализ исследователей из ведущих университетов США показал, что количество отзывов таких устройств значительно выше, чем у традиционных, и почти половина инцидентов случается в течение года после одобрения.
Эта ситуация осложняется проблемами с регуляторными органами. FDA в последние годы столкнулся с дефицитом специалистов по ИИ, поскольку прежняя администрация сократила штат научных экспертов. Несмотря на текущие попытки возобновить набор персонала и ужесточить стандарты безопасности, регулятор пока не может полностью гарантировать эффективность проверок. Кроме того, производители находят лазейки, позволяющие им проводить модификации устройств с добавленным ИИ без повторных испытаний на пациентах.
Эксперты считают, что традиционный подход FDA к оценке медицинских изделий не соответствует вызовам, которые создаёт ИИ в медицине. В то же время технологии на базе нейросетей продолжают развиваться и демонстрируют успешные результаты, например, при выполнении хирургических операций роботами с минимальным участием человека. Тем не менее, инциденты с устройствами, использующими ИИ, подчёркивают необходимость более строгого контроля и адаптации правил безопасности в быстро меняющейся сфере цифровой медицины.
