Riscurile inteligenței artificiale: Distorsionarea amintirilor și impactul dezinformării
Cercetări recente evidențiază capacitatea inteligenței artificiale de a crea amintiri false și de a influența deciziile politice, în timp ce dependența de sisteme autonome poate duce la erori fatale.
Inteligența artificială poate influența nu doar ceea ce credem, ci și ceea ce ne amintim, fotografiile modificate și rezumatele generate de aceste sisteme putând distorsiona amintirile oamenilor și determinându-i să creadă că au trăit sau au văzut lucruri care nu s-au întâmplat niciodată. Persoanele afectate pot manifesta o încredere ridicată în propriile amintiri false, ceea ce accentuează riscurile dezinformării în domenii sensibile.
Cercetătoarea Pattie Maes de la Institutul de Tehnologie din Massachusetts (MIT) a prezentat un studiu în care participanții au fost expuși unor fotografii originale și unor versiuni modificate cu AI. Testele de memorie au relevat că cei care au văzut imaginile alterate și-au amintit mai frecvent greșit fotografiile originale și au manifestat o încredere exagerată în amintirile false. Deoarece memoria umană este vulnerabilă la sugestii, dezinformarea poate genera efecte de durată care să influențeze deciziile politice chiar și după ce informațiile false au fost corectate. Acest risc este amplificat de faptul că conținutul generat de AI devine tot mai convingător și mai răspândit online. Studiile indică faptul că imaginile deepfake și textele fabricate pot crea amintiri false. Un studiu din anul trecut a demonstrat că materialele generate de AI privind scandaluri politice inventate au influențat intenția de vot a participanților.
Independența de intențiile răuvoitoare, AI poate produce informații false prin fenomenul cunoscut sub numele de „halucinații”. Pentru a preveni aceste erori, unele organizații utilizează principiul „omului în buclă”, prin care un specialist verifică rezultatele sistemului, însă cercetările arată că oamenii identifică greu aceste erori. Chiar și experții pot fi influențați de răspunsurile greșite ale sistemelor AI, în ciuda faptului că acestea pot contrazice cunoștințele lor, din cauza memoriei imperfecte și a încrederii în tehnologie.
Capacitatea unei persoane obișnuite de a recunoaște conținutul generat de AI este considerată comparabilă cu aruncarea unei monede. Deși se încearcă dezvoltarea de metode de instruire pentru identificarea deepfake-urilor, nu există încă o soluție sigură. În paralel, industria dezvoltă sisteme de AI care să funcționeze autonom, reducând intervenția umană.
Dependența excesivă de AI poate avea consecințe tragice. O anchetă internă a Departamentului Apărării al SUA, relatată de Bloomberg, a indicat că un atac militar american asupra unei școli primare din Iran, în care auเสีย peste 150 de persoane, inclusiv cel puțin 123 de copii, a fost cauzat parțial de un sistem AI dezvoltat de Palantir care recomandase școala drept țintă pe baza unor date învechite.