Reuters: Виробники медобладнання активно інтегрують ШІ у свої пристрої. Іноді це призводить до серйозних травм

Виробники медичного обладнання в останні роки активно інтегрують штучний інтелект у свої пристрої. Все частіше їх використовують не лише для діагностики, а й у операційних — але це не завжди минає без проблем, а іноді призводить до серйозних травм.

Про це йдеться в матеріалі Reuters.

У 2021 році компанія Acclarent (підрозділ Johnson & Johnson) додала ШІ-алгоритм до навігаційної системи TruDi, яку використовують під час операцій на пазухах носа. Ця технологія мала допомагати хірургам точніше орієнтуватися під час процедур.

На той момент пристрій був на ринку вже три роки, і американський регулятор FDA отримав лише сім повідомлень про його несправність та одне — про травму пацієнта. Але після інтеграції ШІ кількість таких звітів зросла до 100. Притому щонайменше 10 пацієнтів отримали серйозні травми — включно з витоками спинномозкової рідини, пошкодженням основи черепа та інсультами через випадкові травми артерій.

Reuters із посиланням на звіт FDA пише, що більшість випадків повʼязані з помилками, коли TruDi дезінформувала хірургів про розташування їхніх інструментів під час операцій.

Водночас журналісти наголошують, що звіти FDA щодо пристроїв можуть бути неповними і не призначені для визначення причин медичних нещасних випадків, тому незрозуміло, яку роль міг відіграти штучний інтелект. Дві жертви інсульту подали позов, стверджуючи, що штучний інтелект системи TruDi сприяв їхнім травмам.

У Integra LifeSciences, яка у 2024 році придбала Acclarent та навігаційну систему TruDi, кажуть, що звіти «не містять нічого, крім того, що система TruDi використовувалася в хірургічному кабінеті, де стався побічний ефект». В компанії також переконують, що «немає жодних достовірних доказів, які б свідчили про будь-який причинно-наслідковий звʼязок між навігаційною системою TruDi, технологією штучного інтелекту та будь-якими ймовірними травмами».

На сьогодні FDA авторизувала щонайменше 1 350 пристроїв із ШІ, що майже вдвічі більше, ніж у 2022 році. І проблеми виникали не лише з TruDi. Відомо про випадки, коли серцеві монітори неправильно розпізнавали аритмію, а УЗД-пристрої неправильно ідентифікували частини тіла плода.

Дослідники з університетів Джонса Гопкінса, Джорджтауну та Єльського університету зʼясували: 43% відкликань ШІ-пристроїв відбулися менше ніж через рік після схвалення, що вдівічі частіше, ніж відкликання всіх пристроїв, схвалених FDA.

Чинні та колишні науковці FDA скаржаться, що після масових скорочень агентство стикається з дефіцитом ресурсів та персоналу для контролю за шалено зростаючим ринком ШІ-пристроїв.

Проблема полягає ще в тому, що FDA вимагає проведення клінічних випробувань нових ліків, але медичні пристрої проходять іншу перевірку. Згідно з правилами FDA більшість пристроїв зі штучним інтелектом, що зʼявляються на ринку, не підлягають тестуванню на пацієнтах. Замість цього виробники виконують вимоги FDA, посилаючись на раніше дозволені пристрої, які не мали ШІ-функціоналу.

Позиціонування нових пристроїв як оновлень існуючих є давно усталеною практикою, але ШІ додає невизначеності такій практиці. Експерти, з якими говорили журналісти, вважають, що нинішні правила FDA для медичних пристроїв не підходять для контролю безпеки й ефективності технологій зі штучним інтелектом.