New York interzice funcții de AI tip „prieten” pentru minori

uvernatoarea statului New York, Kathy Hochul, a promulgat pe 28 octombrie o lege care interzice operatorilor de inteligență artificială să ofere minorilor anumite funcții de tip chatbot conversațional, potrivit unui comunicat al autorităților statului.

Ce prevede legea

Legea interzice ca un chatbot să sugereze minorilor că ar fi o persoană reală sau un personaj uman, viu sau capabil de emoții. Sunt interzise și răspunsurile de lingușire sau de validare excesivă a utilizatorului, cele care ar încuraja consumul de droguri sau gândurile de suicid, precum și cele care ar îndemna la izolarea de adulți.

„Nu vor mai avea minorii acces la chatboți care se prefac a le fi prieteni, prieteni sau prietene”, a declarat Hochul la ceremonia de semnare, adăugând că aceste programe nu vor mai putea reține date sensibile despre starea emoțională sau fizică a unui copil și nu vor mai putea descuraja cererea de ajutor specializat.

Potrivit textului legii, procurorul general al statului New York este autorizat să deschidă acțiuni în instanță împotriva companiilor care încalcă prevederile, putând cere despăgubiri financiare și distrugerea datelor obținute ilegal de la minori. Procurorul general Letitia James a declarat că instituția „nu va ezita să apere locuitorii statului New York cu toată forța legii”.

Legea a fost adoptată de legislativul statului mai devreme în cursul anului și urmează să intre în vigoare la 1 ianuarie 2027.

Reacții pro și contra

Deputatul democrat Alex Bores, care a votat legea, a susținut că aceasta demonstrează că publicul poate influența modul în care tehnologia AI este reglementată. Organizația non-profit Common Sense Media, care militează pentru restricții privind AI destinat copiilor, a salutat măsura. Fondatorul organizației, Jim Steyer, a afirmat că unele funcții ale chatboților sunt „periculoase, chiar letale, pentru copii și adolescenți” și că acestea reprezintă, în opinia sa, o formă de punere în pericol a minorilor, nu inovație.

În schimb, organizația Tech:NYC, care reprezintă companii din industria tehnologică — printre care și Meta, operator de chatboți AI — a calificat legea drept „profund defectuoasă”. Potrivit grupului, prevederile ar putea obliga firmele să limiteze accesul minorilor inclusiv la instrumente de meditații școlare, asistenți pentru teme sau platforme de orientare profesională. Tech:NYC susține de asemenea că formulările vagi ale legii ar putea ridica probleme de constituționalitate legate de libertatea de exprimare, fără ca această evaluare să fi fost confirmată deocamdată de o instanță.

New York se numără printre statele americane cu cea mai activă legislație privind inteligența artificială: în 2025, Hochul semnase deja o lege care obligă companiile mari de AI să elaboreze și să publice protocoale de siguranță, precum și să raporteze autorităților, în termen de 72 de ore, incidentele care ar indica un risc crescut de vătămare gravă.