Avertismentul despre supraveghere din prospectul IPO al Anthropic
economie libera

Avertismentul despre supraveghere din prospectul IPO al Anthropic

⏱ 5 min de citit

ntr-o scrisoare oficială către viitorii investitori, fondatorii unei companii care vinde inteligență artificială guvernelor scriu negru pe alb că tehnologia lor ar putea ajuta regimuri autoritare să construiască „state de supraveghere de înaltă tehnologie”. Documentul nu e o scurgere de informații, nici o teorie de pe internet: este chiar textul depus la autoritatea americană de reglementare a pieței de capital, parte din prospectul de ofertă publică inițială al Anthropic, compania din spatele asistentului AI Claude.

Scrisoarea, semnată de toți cei șapte co-fondatori, inclusiv directorul executiv Dario Amodei și președinta Daniela Amodei, numește „abuzul autoritar” drept una dintre cele patru categorii majore de risc legate de inteligența artificială, alături de utilizarea greșită, pierderea controlului și perturbarea economică. Răspunsul companiei la acest risc, potrivit aceluiași document, este angajamentul de a „lucra cu societățile libere pentru a oferi o contrapondere abuzului autoritar și a promova libertatea și democrația”.

Ce spune compania despre propria afacere

Cu o pagină înainte de acest avertisment, prospectul arată că Anthropic vinde deja inteligență artificială unor guverne, ca parte a ceea ce numește „construirea capacității tehnologice a statului”. Potrivit documentului depus de companie, Anthropic colaborează deja cu „guvernul federal american, numeroase guverne statale și aliați americani, în domenii precum serviciile pentru copii, administrarea asigurărilor sociale, securitatea cibernetică și colectarea de informații”.

Tot prospectul precizează unde trage Anthropic linia: politica sa de utilizare interzice folosirea modelelor pentru arme complet autonome sau pentru „supraveghere în masă, inclusiv supraveghere internă în masă”. Compania susține, în același document, că această poziție i-ar fi costat venituri. Potrivit prospectului, după ce Anthropic a făcut publică această restricție în februarie, administrația președintelui american Donald Trump ar fi dispus agențiilor federale să oprească folosirea tehnologiei companiei, iar Departamentul Apărării ar fi catalogat-o drept „risc pentru lanțul de aprovizionare al securității naționale”. Tot potrivit documentului depus de companie, Departamentul Apărării ar fi sugerat și posibilitatea invocării unei legi federale pentru a obliga Anthropic să renunțe la aceste restricții. Aceste afirmații aparțin companiei, așa cum apar în prospectul depus la autoritatea de reglementare, și nu au fost confirmate independent de autoritățile menționate.

Piesa care nu se leagă

Alex Randall, cercetător la Center for Humane Technology și fost consilier de politici pentru Cabinetul britanic și Ministerul Apărării al Marii Britanii, susține într-un comentariu publicat în UnHerd că scrisoarea „trece mai departe, lăsând această afirmație neexplicată”, și că riscul numit de fondatori nu s-ar limita la dictaturi străine.

Potrivit lui Randall, de-a lungul istoriei supravegherea în masă a fost limitată de numărul de oameni pe care un stat îi putea plăti să citească informațiile colectate — dă ca exemplu Stasi din fosta Germanie de Est, care ar fi ținut dosare pentru o treime din populație, dar nu ar fi avut niciodată suficienți ofițeri ca să le citească pe toate. Arhitectura „transformer”, din 2017, care stă la baza Claude, ChatGPT și a rivalilor lor, ar fi eliminat această limită, prin mecanismul de „atenție” care compară fiecare informație cu toate celelalte, iar modelele multi-modale ar putea combina localizare, video, audio, date financiare și obiceiuri de navigare într-un singur cadru. „Am construit acum mai mulți ofițeri decât vor fi vreodată necesari”, scrie Randall.

Ce cred susținătorii teoriei

Randall leagă această direcție de un program mai vechi al agenției americane de cercetare militară DARPA, condus la începutul anilor 2000 de amiralul John Poindexter, menit să urmărească potențiali teroriști prin corelarea datelor deja existente. Potrivit cercetătorului, ideea de „conștientizare totală a informației” ar deveni, practic, rezultatul implicit al cursei actuale pentru inteligență artificială, mai degrabă decât un scop urmărit deliberat de o singură entitate.

El citează și cazul unui memoriu din 2021 al Agenției de Informații a Apărării americane, transmis unui senator, potrivit căruia analiștii agenției ar fi căutat, fără mandat, date de localizare cumpărate comercial despre cetățeni americani, în cinci investigații derulate pe parcursul a doi ani și jumătate. Randall menționează și achiziția, în ianuarie, a unei companii specializate în analiza comportamentului digital global de către un contractor din domeniul apărării. Concluzia cercetătorului este sumbră: dacă rețeaua de senzori digitali continuă să se extindă și rămâne conectată la sisteme de inteligență artificială tot mai capabile, oricine ar controla aceste sisteme ar putea anticipa mișcările sociale cu mult înainte ca ele să se formeze.

Ce rămâne neexplicat

Scepticii ar putea observa că scrisoarea fondatorilor Anthropic este, în fond, un document de marketing financiar, menit să atragă investitori înaintea unei oferte publice — iar un asemenea text are, prin natura sa, interesul de a părea responsabil și conștient de riscuri. Rămâne de văzut dacă angajamentele declarate de companie, privind limitele de utilizare a tehnologiei sale, vor rezista presiunilor comerciale și politice descrise chiar în prospectul depus la autoritatea americană de reglementare.

Potrivit celui mai recent amendament la prospect, depus pe 17 noiembrie, oferta Anthropic ar urma să cuprindă 825 de milioane de acțiuni de clasă A, la un preț estimat de 74 de dolari fiecare. Scrisoarea fondatorilor se încheie cu un mesaj pentru investitori: oricine cumpără aceste acțiuni, instituție sau persoană fizică, „devine parte din acest efort” de a orienta tehnologia. Rămâne la latitudinea fiecărui cititor să judece cât de liniștitoare este, de fapt, această promisiune.

adevăruri.ro este partener LIXRA Media Intelligence Network