AI în diagnosticul medical: Modelele avansate cresc precizia, dar generează mai multe erori
Un studiu publicat în Nature Communications reveală că modelele avansate de AI au o acuratețe mai mare în identificarea bolilor, dar produc cu 34% mai multe diagnostice fals pozitive decât modelele convenționale.
Modelele avansate de inteligență artificială (AI) în diagnosticul medical pot identifica mai precis bolile, însă prezintă riscuri privind corectitudinea și consecvența rezultatelor, generând mai multe diagnostice eronate. Un studiu recent indică faptul că aceste sisteme generează mai multe diagnostice fals pozitive decât modelele convenționale, fiind necesară verificarea rezultatelor de către medici pentru o utilizare mai sigură în practica medicală. Cercetarea a fost realizată de specialiști de la Harvard Medical School, Universitatea din Hong Kong, Universitatea Tsinghua din China și alte instituții medicale și academice. Rezultatele, publicate în revista Nature Communications, subliniază că îmbunătățirea capacității de identificare a bolilor poate fi însoțită de creșterea numărului de diagnostice eronate.
Studiul a comparat modelele lingvistice de mari dimensiuni (LLM), care procesează informații în limbaj natural, cu modelele de raționament (LRM), concepute pentru rezolvarea problemelor complexe prin etape succesive de analiză. În context medical, aceste modele analizează dosarele pacienților pentru a identifica diagnosticul principal și pentru a propune diagnostice diferențiale. Deși modelele avansate au identificat mai precis diagnosticul principal, acestea au generat totodată mai multe erori. Evaluarea s-a bazat pe sistemul AIMS-LDR, utilizând date din dosare medicale electronice reale care au cuprins informații clinice complexe din 12 specialități medicale. Cercetătorii au comparat șase perechi de modele AI, fiecare cuprinzând un model cu capacități avansate de raționament și unul lingvistic convențional. Analiza a vizat corectitudinea diagnosticului principal, relevanța variantelor alternative și riscul de generare a diagnosticelor fals pozitive.
Modelele cu capacități avansate de raționament au prezentat o acuratețe mai ridicată în stabilirea diagnosticului principal și au propus diagnostice diferențiale mai relevante clinic. Performanțele superioare au fost însă dublate de o creștere a numărului de diagnostice fals pozitive, adică afecțiuni indicate fără a fi susținute de datele clinice ale pacientului. Concret, modelele avansate au generat cu peste 34% mai multe diagnostice fals pozitive comparativ cu modelele lingvistice convenționale. S-a observat zudem o reducere de aproximativ 40% a reproductibilității rezultatelor, modelele avansate furnizând răspunsuri mai puțin consecvente la evaluări repetate în condiții comparabile. Aceste diferențe au persistat indiferent de formulările instrucțiunilor, configurațiile modelelor sau metodele de evaluare utilizate. Rezultatele sugerează că o capacitate crescută de analiză nu reduce automat toate tipurile de erori diagnostice.
Colaborarea dintre medici și sistemele AI a demonstrat că verificarea manuală a diagnosticelor îmbunătățește rezultatele. Cercetarea a evaluat strategia prin care AI identifică un spectru larg de diagnostice posibile, iar medicul validează ulterior corectitudinea și relevanța acestora. Abordarea urmărește combinarea capacității AI de a nu omite afecțiuni cu expertiza medicală necesară pentru confirmarea finală. Într-un experiment cu 15 medici, această strategie a crescut acuratețea diagnosticului cu 20% și a redus diagnosticele fals pozitive cu 44%. Datele indică faptul că supravegherea medicală permite menținerea beneficiilor AI în identificarea bolilor, reducând simultan erorile generate.
Studiul subliniază nevoia de a evalua sistemele AI folosind multiple criterii, dincolo de simpla capacitate de a identifica diagnosticul principal. Un model capabil să recunoască mai multe afecțiuni poate genera simultan diagnostice nejustificate, influențând negativ procesul de investigare și deciziile medicale. Lipsa de consistență a rezultatelor la evaluări repetate poate afecta fiabilitatea sistemelor utilizate pentru sprijinirea deciziilor clinice. Autorii recomandă ca integrarea AI în procesul de diagnostic să fie însoțită de mecanisme de verificare și supraveghere medicală strictă.
Studiul prezintă limitări, fiind realizat în condiții experimentale controlate pe date retrospective, cu un grup restrâns de 15 medici pentru validarea colaborării om-mașină. Nu a fost evaluat impactul utilizării acestor sisteme asupra evoluției reale a pacienților în practica medicală curentă. Este necesară realizarea unor studii pe termen lung în condiții clinice reale pentru a confirma beneficiile și a stabili modul în care aceste sisteme pot îmbunătăți siguranța diagnosticului. Concluziile susțin un model hibrid în care AI contribuie la identificarea posibilităților diagnostice, în timp ce medicul păstrează responsabilitatea evaluării și confirmării finale.