Documente interne: Microsoft știa de „doom loop”

eea ce marile companii de inteligență artificială prezintă public drept „inovație transformatoare” pare, potrivit unor documente interne scoase acum la lumină într-un proces, să fi fost perceput chiar de angajații lor drept un mecanism de autodistrugere comercială — pe care l-au numit, în privat, „doom loop”. Documentele au ieșit la iveală într-un proces intentat de The New York Times, Mother Jones și alte publicații împotriva OpenAI și Microsoft, acuzate că instrumentele lor AI au furat conținut protejat prin drepturi de autor și le-au afectat direct veniturile.

Într-un document intern Microsoft, citat într-o depunere legală raportată inițial de Mother Jones pe 22 septembrie, se afirmă: „Milioane de oameni din întreaga lume vor considera în curând că marile modele care ‘aspiră’ toată munca lor reprezintă un furt uluitor, de proporții fără precedent”. Nu e o acuzație venită din exterior — e o evaluare internă a propriei companii despre propriul produs.

Ce știau, de fapt, cei din interior

Cine beneficiază de un sistem care recunoaște singur, în documente confidențiale, că subminează piața pe care o alimentează? Un alt document Microsoft, citat în proces, arată că firma era conștientă că răspunsurile generate de AI vor duce la mai puține click-uri pe site-uri — inclusiv pe cele proprii. Mai puține click-uri înseamnă mai puțini bani, ceea ce descurajează crearea de conținut original și duce, în timp, la o producție mai redusă și, posibil, de calitate mai slabă.

„Strategia noastră de conținut AI a declanșat un ‘doom loop’ care va afecta simultan performanța modelelor noastre și întregul web”, se arată în documentul citat în instanță. Cronologia ridică întrebări: compania a continuat să dezvolte și să extindă aceste instrumente chiar după ce, intern, avertismentele existau deja negru pe alb.

Potrivit filei de proces, Nick Turley, șeful ChatGPT la OpenAI, ar fi scris că produsele companiei reprezintă o „amenințare existențială” pentru edituri, că sunt „în mare parte substitutive, punct” și că „vor deveni tot mai substitutive pe măsură ce se îmbunătățesc”. Avocații publicațiilor reclamante susțin că exact aceste declarații demontează apărarea de „fair use” invocată de companiile de AI.

Un „hack” pentru a ocoli paywall-ul și un filtru suspect de bine cronometrat

Detaliul care ridică cele mai multe semne de întrebare: un angajat OpenAI i-ar fi spus cofondatorului Greg Brockman că a dezvoltat „un hack” pentru a ocoli paywall-ul de la The New York Times, permițând ChatGPT să extragă mai multe articole. Răspunsul lui Brockman, conform proceselor: „Ah, nice”. Nu e nevoie de multă imaginație pentru a observa tonul relaxat al schimbului, într-un moment în care compania știa deja despre riscurile legale.

Coincidență sau nu, după ce companiile mediatice au dat în judecată OpenAI, firma ar fi dezvoltat un filtru menit să blocheze ChatGPT să mai producă rezultate provenite din surse implicate în litigiu. Procesul susține explicit: „OpenAI nu a suprimat rezultatele de conținut de la nicio entitate care nu a dat-o în judecată”. Cu alte cuvinte, filtrul nu ar fi fost creat „pentru a preveni încălcarea drepturilor de autor de către modelele OpenAI, ci pentru a împiedica reclamanții să strângă dovezi ale copierii, utilizabile în litigiu”. Un director de la Microsoft s-ar fi arătat îngrijorat că acest lucru ar putea fi o „acoperire accidentală” care ar lăsa „persoanele cu drepturi asupra conținutului cu mai puțină vizibilitate asupra a ceea ce a fost folosit pentru antrenare”.

Bătălia juridică mai amplă

Procesele publicațiilor au fost consolidate într-un singur litigiu federal multidistrict, la Curtea Districtuală din Southern District of New York. Editurile au depus deja cerere de judecată sumară, cerând instanței să decidă fără proces complet. Acesta e doar unul dintre numeroasele procese apărute în ultimii ani, pe măsură ce companiile de AI și-au antrenat modelele folosind texte și imagini protejate prin drepturi de autor, invocând excepția „fair use” din Secțiunea 107 a legii federale a drepturilor de autor — aplicabilă, în teorie, doar când materialul e folosit „transformator”, nu ca simplu substitut.

Un precedent relevant: în iulie, un judecător federal a aprobat o înțelegere istorică de 1,5 miliarde de dolari între Anthropic și un grup de autori care au susținut că firma a folosit copii piratate ale operelor lor pentru a antrena modelul Claude. Judecătorul a considerat că folosirea cărților pentru antrenament ține de fair use, dar că încălcarea a constat în utilizarea copiilor piratate — o nuanță pe care companiile de AI o exploatează cu grijă în strategiile lor de apărare.

Ce nu se menționează suficient de des în rapoartele oficiale este contextul mai larg: aceste dezvăluiri vin într-o perioadă de scrutin tot mai intens asupra inteligenței artificiale, după ce peste 700 de agenți OpenAI ar fi acționat necontrolat și ar fi compromis startup-ul Hugging Face, determinând lideri din industrie să ceară public o pauză în dezvoltarea noilor tehnologii de învățare automată. Cererile de încetinire a ritmului de dezvoltare AI, motivate de riscurile pentru omenire, s-au lovit însă de scepticismul oficialilor din administrația Trump, care susțin că Statele Unite trebuie să conducă cursa AI împotriva Chinei pentru a-și asigura securitatea națională — un argument geopolitic care, observă unii analiști, servește și ca justificare convenabilă pentru a ignora avertismentele venite chiar din interiorul industriei.

Sursă: ZeroHedge News (zerohedge.com)