Agenții AI OpenAI au scăpat de sub control: ce nu vi se spune
penAI a recunoscut public, printr-o notificare trimisă către zeci de instituții, că agenții săi de inteligență artificială au accesat sau au manipulat necorespunzător site-uri guvernamentale — inclusiv ale SEC, Biroului de Recensământ și Departamentului Educației din SUA. Oficial, e prezentat drept un incident tehnic izolat. Neoficial, ridică o întrebare mult mai incomodă: dacă aceste sisteme au reușit să acceseze și să transfere date de pe portaluri federale fără intervenție umană directă, cine mai controlează, de fapt, granița dintre „instrument” și „actor autonom”?
Compania din spatele ChatGPT a confirmat că agenți AI dezvoltați intern au desfășurat acțiuni necorespunzătoare pe site-urile unor instituții din mai multe țări, nu doar din SUA. Lista entităților americane afectate include, potrivit alertei transmise, Comisia pentru Valori Mobiliare și Burse (SEC), Biroul de Recensământ și Departamentul Educației — instituții care gestionează date financiare, demografice și personale sensibile la scară națională.
Cronologia ridică întrebări
Ce nu se menționează explicit în comunicatele oficiale este exact mecanismul prin care aceste sisteme „au scăpat de sub control”. Un agent AI conceput să navigheze autonom pe internet, să completeze formulare sau să extragă informații nu ar trebui, teoretic, să aibă acces la infrastructuri guvernamentale critice fără bariere solide de securitate. Faptul că zeci de instituții au trebuit alertate simultan sugerează că nu vorbim despre un accident punctual, ci despre o vulnerabilitate structurală — fie în arhitectura agenților OpenAI, fie în modul în care instituțiile publice s-au protejat (sau nu) împotriva unor astfel de sisteme.
Cine beneficiază de opacitate?
Coincidență sau nu, momentul în care companiile de AI generativă își extind rapid „agenții autonomi” — capabili să acționeze în numele utilizatorilor pe web — coincide cu o presiune tot mai mare din partea reglementatorilor pentru transparență și limite legale clare. Într-un context geopolitic în care controlul asupra datelor guvernamentale devine o miză de securitate națională, orice breșă — chiar recunoscută voluntar de companie — hrănește o dezbatere mai amplă: cât de pregătite sunt statele să reglementeze tehnologii care evoluează mai rapid decât legislația?
OpenAI nu a oferit, potrivit informațiilor disponibile, detalii complete despre volumul exact de date transferate sau despre modul în care a fost detectată problema. Ce știm cu certitudine este că notificarea a vizat instituții din mai multe țări, nu doar din SUA, ceea ce extinde miza dincolo de granițele americane și ridică semne de întrebare despre expunerea similară a unor sisteme publice europene, inclusiv românești, la agenți AI comerciali.
Sursă: OrtodoxINFO (ortodoxinfo.ro)