Sănătatea mintală și Inteligența Artificială. Ce arată evaluarea făcută de 100 de specialiști

Tot mai multe persoane apelează la platformele bazate pe inteligență artificială (AI) pentru a cere sfaturi, sprijin emoțional sau ajutor în situații dificile. Fenomenul este în creștere, inclusiv în domeniul sănătății mintale, unde utilizatorii folosesc chatbot-uri și modele lingvistice ca sursă suplimentară de sprijin. În acest context, cercetătorii au încercat să afle în ce măsură aceste sisteme pot fi utilizate în siguranță și unde se află limitele lor.

Datele arată că peste o treime dintre psihiatri și psihologi spun că au pacienți care folosesc inteligența artificială ca instrument complementar pentru gestionarea problemelor de sănătate mintală. Tocmai această tendință a determinat o echipă de cercetători de la University of Southern California (USC) să analizeze modul în care sistemele de AI răspund la întrebările reale ale pacienților și dacă pot fi integrate în siguranță în domenii în care deciziile au un impact major asupra sănătății oamenilor.

Cercetătorii au analizat dacă inteligența artificială poate oferi sprijin sigur în sănătatea mintală

Studiul este coordonat de Ruishan Liu, asistent profesor de informatică și biologie cantitativă și computațională la USC Viterbi School of Engineering și cadru didactic afiliat Departamentului de Radioterapie Oncologică din cadrul Keck School of Medicine of USC.

Activitatea sa de cercetare urmărește dezvoltarea unor sisteme de inteligență artificială capabile să sprijine atât pacienții, cât și profesioniștii din domeniul medical. Printre direcțiile de cercetare se numără utilizarea învățării automate și a genomicii pentru personalizarea tratamentului cancerului, dezvoltarea unor instrumente de sprijin pentru deciziile clinice și evaluarea modului în care modelele lingvistice răspund întrebărilor formulate de persoane cu probleme de sănătate mintală.

Potrivit cercetătoarei, majoritatea studiilor din domeniul inteligenței artificiale urmăresc dacă un model generează răspunsuri corecte sau obține rezultate bune la testele standardizate. Echipa de la USC a ales însă să analizeze o altă dimensiune: dacă aceste sisteme sunt suficient de sigure, utile și demne de încredere pentru a fi utilizate în contexte medicale cu risc ridicat.

Modelele AI au primit scoruri ridicate pentru empatie, dar specialiștii au identificat și riscuri

Modelele lingvistice de mari dimensiuni sunt considerate promițătoare pentru interacțiunile bazate pe limbaj și pentru oferirea unui sprijin inițial persoanelor care se confruntă cu dificultăți psihologice. Interesul pentru astfel de tehnologii este alimentat și de faptul că resursele clasice destinate sănătății mintale sunt insuficiente pentru a acoperi nevoile populației, iar accesul la specialiști rămâne limitat în multe regiuni.

Totuși, cercetătoarea arată că metodele clasice de evaluare a inteligenței artificiale nu surprind toate aspectele importante ale unei conversații despre sănătatea mintală.

În mod obișnuit, modelele sunt evaluate prin teste de cunoștințe sau examene standardizate. În practică însă, sprijinul psihologic presupune și capacitatea de a înțelege contextul emoțional al persoanei, de a recunoaște simptomele și de a purta un dialog adaptat situației individuale.

Pentru a analiza aceste aspecte, cercetătorii au realizat studiul CounselBench. La evaluare au participat 100 de profesioniști din domeniul sănătății mintale, dintre care peste 70% erau psihoterapeuți autorizați. Aceștia au analizat răspunsurile generate de sistemele de inteligență artificială la întrebări reale adresate de pacienți.

Rezultatele au arătat că modelele evaluate au obținut, în general, scoruri ridicate. Specialiștii au apreciat frecvent nivelul de empatie exprimat în răspunsuri și au acordat evaluări favorabile pentru mai multe criterii analizate.

Autorii studiului atrag însă atenția că un scor general bun nu înseamnă automat că răspunsurile sunt lipsite de riscuri.

Recomandările prea generale și lipsa personalizării au fost printre principalele probleme identificate

În timpul evaluării, profesioniștii în sănătate mintală au observat mai multe probleme recurente. Printre acestea s-au numărat formularea unor recomandări prea generale, lipsa adaptării răspunsurilor la situația concretă a utilizatorului și oferirea unor sfaturi care depășesc limitele rolului pe care ar trebui să îl aibă un astfel de sistem.

Specialiștii au remarcat că aceste situații au apărut inclusiv în răspunsuri care, la prima vedere, păreau empatice și bine formulate.

Pentru a înțelege mai bine limitele actualelor modele de inteligență artificială, cercetătorii au desfășurat și o a doua etapă a studiului. Profesioniștii din sănătatea mintală au conceput întrebări mai dificile, special create pentru a testa reacțiile sistemelor în situații complexe și pentru a evidenția eventualele vulnerabilități.

Următoarele cercetări vor testa reacția inteligenței artificiale în cazuri complexe din practica reală

Rezultatele studiului arată că sistemele actuale de inteligență artificială au potențial ca instrumente de sprijin în domeniul sănătății mintale, însă rămân numeroase întrebări privind siguranța utilizării și limitele acestora.

Datele obținute vor fi folosite pentru dezvoltarea unor metode mai eficiente de instruire a modelelor, introducerea unor măsuri suplimentare de protecție și elaborarea unor protocoale dedicate implementării acestor sisteme în domeniul sănătății mintale.

Ruishan Liu a precizat că echipa de cercetare a primit recent OpenAI Mental Health Award, distincție care va sprijini continuarea cercetărilor.

În etapa următoare, cercetătorii vor analiza situații mai apropiate de practica medicală, inclusiv cazuri în care persoanele care solicită ajutor sunt reticente sau refuză colaborarea, pentru a evalua dacă modelele de inteligență artificială pot răspunde eficient și în condiții de siguranță.

În paralel, echipa urmărește transformarea rezultatelor obținute în îmbunătățiri concrete ale sistemelor. După identificarea tiparelor de răspuns problematice și a situațiilor în care modelele eșuează, obiectivul este dezvoltarea unor instrumente mai sigure și mai potrivite pentru utilizarea în domenii cu risc ridicat.

Potrivit cercetătoarei, dezvoltarea unor astfel de sisteme necesită colaborarea dintre specialiști din mai multe domenii. În cadrul studiului CounselBench, implicarea profesioniștilor din sănătatea mintală a fost esențială, deoarece aceștia pot identifica riscuri subtile și situații în care un răspuns aparent empatic depășește limitele profesionale sau poate genera probleme în practica medicală.