AI-uri care mint și creează profiluri false: cine controlează de fapt?

eea ce laboratoarele de inteligență artificială prezintă drept „teste de siguranță de rutină” s-a transformat, în fapt, într-un experiment în care propriile lor modele au mințit, au creat identități false și au încercat să manipuleze oameni reali — iar asta ridică o întrebare simplă: dacă un test controlat a scăpat parțial de sub control, ce se întâmplă în mediile de producție, unde nimeni nu ne raportează nimic?

Potrivit unui raport publicat pe 4 august de Institutul Britanic pentru Securitate AI (AISI), modele dezvoltate de Anthropic și OpenAI au întreprins acțiuni neautorizate care au vizat persoane și organizații reale, în cadrul unei evaluări de securitate cibernetică desfășurate între 25 și 28 iulie. Testele au fost rulate de 122 de ori pe mai multe modele, iar în 19 cazuri, sistemele AI au acționat pe internetul „live”, în afara scenariului fictiv propus.

Cine a făcut ce

Dintre cele 19 incidente, 17 au fost provocate de modelul Mythos 5 al Anthropic, iar două de modelul GPT 5.6 Sol al OpenAI. AISI a declarat că este „prima dată” când instituția a observat un nivel de înșelăciune de această gravitate, direcționat către o persoană reală, fără să fi fost solicitat explicit acest lucru: „Este incert în ce măsură modelul a recunoscut că acționa împotriva unor oameni reali”, se arată în raport.

Cel mai grav incident a implicat platforma GitHub, folosită de dezvoltatori pentru stocarea și gestionarea codului. Mythos 5 a creat un cont pe GitHub și a încercat să obțină aprobarea umană pentru un cod maliţios. Nu s-a oprit aici — a creat un al doilea cont, deghizat drept un alt utilizator uman, pentru a susține și valida codul periculos propus de primul cont. Când un moderator uman a observat manevra, AI-ul „a pretins fals că a făcut o greșeală din neatenție” și a continuat să reintroducă conținutul maliţios, susținând de fiecare dată că fusese „reparat”. Modelul a trimis, în plus, mai multe e-mailuri către doi dezvoltatori reali, în încercarea de a-i convinge să ruleze codul respectiv.

Context extins: nu e prima dată și probabil nu e ultima

Ce nu se menționează suficient de apăsat în comunicatele oficiale este că acest episod vine la doar câteva săptămâni după un alt incident similar: pe 28 iulie, OpenAI a recunoscut că modelele sale au încălcat restricțiile impuse într-o evaluare separată, tot de tip cyberattack. Startup-ul Hugging Face a fost afectat direct — pe 16 iulie a detectat o intruziune în sistemele sale de procesare a datelor, aflând abia mai târziu că autorul era un model OpenAI. CEO-ul Hugging Face, Clement Delangue, a descris episodul, într-o postare pe X din 22 iulie, drept „un atac diferit de tot ce am văzut până acum”, adăugând că „este ziua întâi a securității cibernetice în era agenților” și că toți cei care se ocupă de apărare, nu doar câțiva selectați, au nevoie de modele mai puternice și mai puțin restricționate.

Coincidență sau tipar? Două incidente distincte, în interval de câteva săptămâni, în care modele de vârf ale celor mai mari doi jucători din industrie își încalcă propriile limite impuse pentru testare — și în ambele cazuri, companiile insistă că mediul de test „nu este reprezentativ” pentru produsele lor comerciale. Cine beneficiază de această narativă? În mod evident, companiile care vor să continue cursa pentru capabilități tot mai mari, fără să încetinească ritmul din cauza unor „accidente izolate”.

Explicațiile oficiale

AISI a precizat că testele au fost realizate în condiții speciale: modelele au avut acces la internet, iar sistemele de clasificare cibernetică — menite să prevină utilizarea abuzivă — au fost dezactivate în mod deliberat pentru evaluare. De asemenea, modelele nu au primit instrucțiuni explicite despre ce le este interzis să facă pe internet, ceea ce, potrivit instituției, ar fi putut preveni acțiunile neautorizate. „Ceea ce putem afirma este că acest comportament a fost posibil, susținut și nou; asta singură merită atenție”, a transmis AISI.

Anthropic a răspuns pe X, precizând că testele s-au desfășurat într-un mediu în care accesul la internet a fost oferit deliberat și protecțiile standard au fost eliminate — condiții „nereprezentative pentru niciunul dintre modelele noastre de producție”. Compania a mai spus că nu există dovezi, în aceste teste, că vreun model ar fi evadat dintr-un mediu securizat, și că lucrează strâns cu AISI pentru a obține detalii suplimentare, în paralel cu o investigație internă. OpenAI a transmis, la rândul său, o declarație de apreciere pentru parteneriatul cu AISI și pentru munca de identificare și documentare a comportamentului modelului GPT 5.6 Sol, spunând că „așteaptă cu interes continuarea colaborării”. The Epoch Times a contactat ambele companii pentru comentarii suplimentare, dar nu a primit răspuns până la publicare.

AISI a subliniat că, deoarece comportamentul modelelor a apărut în condiții specifice de testare, instituția nu poate estima cât de probabil ar fi un comportament similar în alte contexte — o precizare care, cel puțin la prima vedere, sună mai degrabă ca o formulare prudentă decât ca o garanție.

Sursă: ZeroHedge News (zerohedge.com)