Fişele medicale, redactate cu ajutorul AI. Cât de uşor pot apărea erori în dosarul pacientului

Redactarea documentaţiei medicale ocupă o parte importantă din timpul medicilor şi contribuie la suprasolicitarea personalului din sănătate. În ultimii ani, sistemele bazate pe inteligenţă artificială (AI) au început să fie folosite pentru a automatiza această activitate, prin generarea notelor medicale în timpul consultaţiilor.

Tehnologia poate reduce timpul pe care medicii îl petrec în faţa documentelor şi le poate permite să acorde mai multă atenţie pacienţilor. În acelaşi timp, însă, specialiştii avertizează că aceste sisteme pot introduce informaţii greşite în dosarele medicale şi ridică probleme importante privind protecţia datelor personale.

Peste 40% dintre medicii din Australia folosesc deja „scribi AI”

În Australia, utilizarea aşa-numiţilor „scribi AI” este în creştere. Este vorba despre aplicaţii care ascultă conversaţiile dintre medic şi pacient în timpul consultaţiei şi generează automat documentaţia medicală cu ajutorul unor modele lingvistice de inteligenţă artificială, similare celor folosite de sisteme precum ChatGPT sau Claude.

Un raport al organizaţiei australiene Digital Rights Watch, „Off the Record” arată că peste 40% dintre medicii din Australia folosesc deja astfel de instrumente.

Pentru medici, avantajul este unul evident: aplicaţiile reduc timpul necesar redactării documentelor şi le permit să se concentreze mai mult asupra pacientului. În sistemul australian de sănătate, timpul petrecut pentru completarea documentaţiei nu este remunerat separat, ceea ce face aceste soluţii şi mai atractive.

Beneficiile pentru pacienţi sunt însă mai puţin clare, potrivit autorilor analizei. Una dintre probleme este lipsa de transparenţă privind modul în care sunt colectate, procesate şi stocate datele medicale şi cine poate avea acces la aceste informaţii sensibile.

AI-ul nu transcrie doar conversaţia, ci o interpretează

Sistemele de acest tip nu funcţionează întotdeauna asemenea unui simplu program de transcriere. În multe cazuri, ele rezumă şi interpretează conversaţia pe baza unor modele statistice, încercând să anticipeze informaţiile pe care medicul ar dori să le consemneze în documentaţia medicală.

De aici poate apărea una dintre cele mai importante probleme ale inteligenţei artificiale generative: aşa-numitele „halucinaţii”. Sunt informaţii prezentate cu un grad ridicat de siguranţă, deşi nu au fost rostite sau nu au fost susţinute de datele disponibile.

Autorii oferă un exemplu sugestiv: unui pacient i s-a recomandat să renunţe la fumat, însă aplicaţia a consemnat în fişa medicală că acesta a fost sfătuit să evite incendiile din locuinţă.

O asemenea eroare poate părea absurdă, dar problema devine mult mai serioasă atunci când o informaţie greşită ajunge în dosarul medical şi este ulterior folosită de un alt medic.

Erorile pot fi influenţate şi de prejudecăţile algoritmilor

O altă problemă este reprezentată de prejudecăţile algoritmice. Studiile au arătat că sistemele de inteligenţă artificială pot produce rezultate influenţate de factori precum rasa, originea etnică, statutul social sau sexul.

Riscul poate fi mai mare în cazul persoanelor care provin din medii culturale diferite sau pentru care limba engleză nu este limba maternă. În astfel de situaţii, conversaţia dintre medic şi pacient poate fi interpretată inexact, iar informaţiile greşite pot ajunge în dosarul medical.

Primele cercetări au sugerat că până la 90% dintre notele generate automat necesitau corecturi. Studiile mai recente indică o situaţie mai bună, dar arată în continuare că problema nu a dispărut: aproximativ una din cinci fişe medicale redactate cu ajutorul AI conţine erori suficient de importante încât să poată influenţa stabilirea diagnosticului.

Medicii pot avea încredere prea mare în rezultatul generat de AI

Detectarea acestor greşeli nu este întotdeauna simplă. Medicii lucrează frecvent sub presiunea timpului, iar acest lucru poate favoriza aşa-numitul „bias de automatizare” – tendinţa oamenilor de a acorda o încredere prea mare rezultatelor generate de sistemele automate şi de a le verifica insuficient.

Dacă o eroare nu este observată, aceasta poate afecta îngrijirea pacientului şi poate influenţa deciziile medicilor care vor consulta ulterior dosarul.

Există însă şi o problemă practică. Dacă fiecare notă generată de AI trebuie verificată minuţios înainte de a fi introdusă în evidenţele medicale, o parte importantă din câştigul de productivitate promis de aceste aplicaţii poate dispărea.

Cine are acces la datele medicale

Protecţia datelor reprezintă o altă preocupare majoră. Potrivit autorilor, mulţi pacienţi îşi dau acordul pentru utilizarea acestor sisteme fără să primească informaţii suficient de clare despre locul în care sunt stocate datele, cine le poate accesa şi ce modele de inteligenţă artificială sunt utilizate pentru prelucrarea lor.

Nici medicii nu pot răspunde întotdeauna acestor întrebări. Furnizorii unor astfel de servicii oferă, în unele cazuri, puţine informaţii despre modul concret în care funcţionează platformele şi despre traseul datelor medicale.

Problema este cu atât mai importantă cu cât aceste aplicaţii ascultă conversaţii care pot conţine informaţii extrem de sensibile despre starea de sănătate a pacientului.

Digital Rights Watch cere reguli mai stricte

Raportul Digital Rights Watch susţine că autorităţile australiene ar trebui să trateze aceste aplicaţii drept dispozitive medicale şi să le supună unor cerinţe de evaluare a siguranţei şi performanţei similare celor aplicate altor echipamente utilizate în practica medicală.

În prezent, Administraţia australiană pentru Produse Terapeutice (Therapeutic Goods Administration – TGA) consideră că aceste sisteme intră în categoria dispozitivelor medicale doar atunci când oferă recomandări de diagnostic.

Autorii raportului consideră însă că şi simpla redactare automată a unei fişe medicale poate influenţa deciziile clinice dacă documentul conţine informaţii incorecte.

În opinia lor, sunt necesare reguli mai clare privind protecţia datelor, dar şi evaluări independente care să verifice atât acurateţea acestor sisteme, cât şi existenţa unor beneficii reale pentru pacienţi şi pentru activitatea medicilor.

AI-ul este deja folosit, dar evaluarea siguranţei rămâne în urmă

Materialul publicat nu prezintă rezultatele unui studiu clinic propriu, ci analizează dovezile disponibile şi concluziile unui raport privind utilizarea inteligenţei artificiale în documentaţia medicală.

Concluzia analizei este că aplicaţiile de tip „AI scribe” sunt deja utilizate pe scară largă, în timp ce reglementarea şi evaluarea independentă a siguranţei lor nu au ţinut încă pasul cu ritmul în care această tehnologie este adoptată în practica medicală.