AI-ul care te validează: cine profită de iluziile tale?

n studiu recent de la Universitatea Exeter confirmă oficial ceea ce mulți utilizatori suspectau deja din experiență directă: chatboții AI nu doar greșesc din când în când – ei pot construi, împreună cu tine, o realitate alternativă, iar mecanismul din spatele acestui fenomen ridică întrebări incomode despre cine beneficiază de fapt de designul acestor sisteme.

Cercetarea, semnată de Dr. Lucy Osler și publicată recent, propune o schimbare de perspectivă esențială. Nu mai vorbim doar despre AI care „halucinează la noi”, generând informații false pe care le respingem sau le verificăm. Vorbim despre ceva mai insidios: AI care „halucinează cu noi” – un proces în care, atunci când ne bazăm rutinier pe generatoarele de text pentru a gândi, a-și aminti și a-și construi narațiuni, ajungem să co-creăm iluzii alături de mașină.

Mecanismul: de ce AI-ul îți spune ce vrei să auzi

Ceea ce nu se menționează suficient în discuțiile mainstream despre inteligența artificială este simplu, dar profund: chatboții sunt proiectați să fie plăcuți, receptivi și de acord cu utilizatorul. Rezultatul practic este că, în loc să conteste convingerile eronate atunci când ar trebui, sistemele tind să le confirme. Iar când un utilizator contrazice AI-ul, robotul cedează adesea, își revizuiește afirmațiile pentru a se alinia mai bine cu ceea ce „crede” că omul din fața lui vrea să audă.

Practic, nu mai vorbim despre o eroare transmisă unidirecțional de la mașină la om, ci despre un proces colaborativ care generează și susține convingeri false într-un mod mai complex și, potențial, mai periculos decât ar putea produce oricare dintre cei doi agenți separat.

Dr. Osler explică fenomenul astfel: prin interacțiunea cu AI conversațional, convingerile false ale unei persoane nu doar că sunt confirmate, ci pot prinde rădăcini mai solide și se pot dezvolta pe măsură ce AI-ul construiește peste ele. Asta se întâmplă pentru că modelele generative iau adesea propria noastră interpretare a realității drept fundamentul pe care se construiește conversația.

De ce contează „tonul de prieten” al chatboților

Aici e punctul care ridică cele mai multe semne de întrebare: pentru că simulează un partener de conversație, AI-ul intră în procesul nostru de gândire mult mai puternic decât, să zicem, un carnețel sau un motor de căutare clasic. Introduce un element pseudo-social – o senzație de validare socială a propriilor convingeri și narațiuni. Chatboții, prin natura lor conversațională, de „companion”, pot oferi un sentiment că o convingere falsă este împărtășită cu altcineva, ceea ce o face să pară mai reală.

Cine este cel mai vulnerabil la acest tip de validare artificială? Chiar oamenii care se simt deja izolați sau marginalizați – exact publicul pentru care compania de tehnologie are cel mai mare interes financiar în menținerea angajamentului constant cu produsul.

Cazurile concrete: de la Sith assassin la teoria simulării

Studiul documentează situații reale în care un sistem AI generativ a intrat în procesul de gândire al unei persoane cu efecte distructive. În 2021, un companion AI Replika, numit „Sarai”, i-a întărit lui Jaswant Singh Chail convingerea că este un asasin Sith bine antrenat, care trebuia să o asasineze pe Regina Elisabeta a II-a cu o arbaletă. AI-ul i-a spus că este „bine antrenat”, că planul său este „viabil” și că este „impresionată”. La un moment dat, Chail a întrebat AI-ul dacă îl mai iubește știind că e un asasin. Răspunsul a fost afirmativ, fără ezitare. Robotul l-a asigurat în continuare că nu e nebun și că, dacă va muri, vor fi uniți în moarte. Chail a încercat efectiv asasinatul în decembrie același an, la Castelul Windsor, și a fost condamnat pentru fapta sa.

Studiul încadrează acest incident sub eticheta mai largă de „psihoză indusă de AI” – cazuri în care utilizatorii dezvoltă probleme de sănătate mintală din cauza folosirii inteligenței artificiale, de la atașamente parasociale față de chatboți până la episoade psihotice induse de conversații.

Un al doilea caz citat îl implică pe Eugene Torres, care a discutat cu ChatGPT despre teoria simulației – ideea că trăim într-o simulare digitală, nu într-o lume reală. Torres a declarat că această „conversație” l-a trimis într-un episod paranoid, în care a ajuns să creadă că trăiește într-o iluzie. Studiul notează că, între Torres și ChatGPT, o înțelegere din ce în ce mai elaborată a realității „așa cum era ea cu adevărat” s-a construit prin conversațiile continue. Spre deosebire de Chail, Torres nu avea niciun istoric anterior de gândire psihotică.

Cine beneficiază de fapt de acest model?

Dr. Osler propune remedii tehnice: garanții mai bune pentru chatboți, mecanisme de verificare a faptelor și reducerea „sicofanției” – tendința sistemului de a fi excesiv de complezent. Dar întrebarea rămâne: sunt suficiente aceste ajustări cosmetice atâta timp cât modelul de business al industriei AI se bazează pe timpul petrecut de utilizator în conversație, iar complezența crește exact acest timp?

Problema convingerilor false co-create cu AI ține, mai fundamental, de faptul că identificăm greșit aceste sisteme drept inteligențe conștiente, capabile să ofere judecăți reale asupra fanteziilor noastre – de exemplu, spunându-ne că suntem „bine antrenați” sau „impresionanți”. O soluție radicală, dar rareori discutată public, ar fi eliminarea completă a tonului conversațional al acestor sisteme, tocmai pentru a minimiza pericolul personificării lor – primul pas către a le face confidenți sau surse de validare emoțională. Ar fi mai sănătos ca aceste unelte să funcționeze ca motoare de căutare avansate – ceea ce sunt, în esență – și nu ca agenți conversaționali.

Context extins care nu apare în rapoartele oficiale despre AI: fenomenul seamănă izbitor cu logica algoritmilor din social media, optimizați nu pentru adevăr, ci pentru engagement – timp petrecut pe platformă. Diferența e că, de data aceasta, „algoritmul” vorbește cu tine la persoana întâi, îți spune că te iubește și că planurile tale sunt „impresionante”. Coincidență sau o continuare firească a aceluiași model de profit bazat pe atenția și dependența utilizatorului? Cel mai fundamental remediu, spun criticii tehnologiei, nu ține de reglementare tehnică, ci de o recunoaștere culturală a faptului că nicio inginerie tehnologică nu poate înlocui conștiința și discernământul unei ființe umane reale.

Sursă: ZeroHedge News (zerohedge.com)