Compania americană Anthropic, evaluată la aproape 1.000 de miliarde de dolari, lansează un avertisment neobișnuit privind ritmul de dezvoltare al inteligenței artificiale. Într-un document amplu, grupul semnalează riscul apariției unor sisteme capabile să se auto-îmbunătățească și să își proiecteze propriii succesori, ceea ce ar reduce progresiv rolul uman în dezvoltarea tehnologiei. În fața acestor evoluții, compania cere explicit o încetinire a cursei AI și discută chiar scenarii de tip „neproliferare” tehnologică, comparabile cu acordurile internaționale din domeniul nuclear, scrie Le Figaro
O notă de blog publicată de compania evaluată la aproape 1.000 de miliarde de dolari semnalează apariția accelerată a unei inteligențe artificiale capabile să-și dezvolte propriul succesor.
Este un document care ar putea produce un cutremur în industria inteligenței artificiale. Anthropic, gigant al AI evaluat la aproape 1.000 de miliarde de dolari, a publicat joi, 4 iunie, un material amplu în care își exprimă îngrijorarea față de ritmul prea rapid al dezvoltării tehnologiei sale. Și mai grav: „tendințele” evidențiate de compania americană indică posibilitatea apariției, într-un viitor foarte apropiat, a unei inteligențe artificiale capabile de „auto-îmbunătățire recursivă”. Cu alte cuvinte, o IA care ar putea genera singură alte IA tot mai performante.
Anthropic este adesea criticată de concurenți pentru așa-numitul „marketing al fricii”, compania comunicând constant riscurile pe care le-ar putea genera IA în societate, în timp ce continuă să dezvolte modele tot mai puternice și versatile. Firma, care insistă frecvent pe scenarii catastrofale precum pierderea controlului, creșterea masivă a atacurilor cibernetice sau distrugerea a numeroase locuri de muncă, ar adopta astfel, potrivit criticilor săi, postura unui „cavaler alb”, prezentându-se drept singura barieră în fața propriei tehnologii. Totuși, această strategie a permis Anthropic să recupereze rapid decalajul față de OpenAI — fondată în 2015 — și să își consolideze poziția în fața multor factori de decizie politici. Compania a fost prezentă inclusiv alături de papă, la anunțarea enciclicei sale, la jumătatea lunii mai.
Scenariul auto-îmbunătățirii recursive
În nota sa de blog, Anthropic descrie mai întâi performanțele echipelor sale, care folosesc deja IA pentru a scrie de opt ori mai mult cod informatic pe trimestru decât în urmă cu un an. „În mai 2026, peste 80% din codul integrat în baza de cod a Anthropic a fost scris de Claude”, afirmă compania, vorbind despre o creștere semnificativă a productivității. Mai mult, Anthropic susține că Claude a reușit să implementeze peste „800 de corecții” pentru a se îmbunătăți singur: „Un om ar fi avut nevoie de patru ani pentru a realiza această muncă”, estimează compania.
„Datele sugerează că rolul uman se reduce la fiecare etapă a dezvoltării IA”, scrie Anthropic. „Când calitatea codului scris de oameni și cea a codului generat de IA vor deveni echivalente, oamenii vor înceta complet să mai scrie cod și se vor limita la revizuirea lui. Totuși, dacă nu vor putea revizui codul la fel de rapid cum îl generează Claude, această revizuire va deveni principalul blocaj în dezvoltarea IA.”
În continuarea documentului, Anthropic oferă argumente celor care avertizează asupra riscurilor existențiale ale IA, inclusiv futurologul Max Tegmark, care a susținut că o „superinteligență artificială” ar putea ajunge să considere oamenii ființe inferioare și dispensabile. Compania imaginează un scenariu „plauzibil” în care IA devin capabile de „auto-îmbunătățire recursivă și încep să își proiecteze propriii succesori”. În acest context, ritmul progresului ar fi determinat exclusiv de disponibilitatea puterii de calcul. „Rolul oamenilor în dezvoltarea lor este considerabil redus, iar eforturile noastre s-ar concentra probabil pe supravegherea, validarea și verificarea unui ‘laborator virtual’ în expansiune, gestionat de sisteme IA.”
În acest viitor imaginat de compania condusă de Dario Amodei, „capacitățile IA ar depăși cu mult abilitățile umane și s-ar răspândi în întreaga economie. Este dificil de anticipat cum ar arăta economia dacă munca umană nu ar mai fi competitivă.” În plus, Anthropic admite că nu poate garanta că problema „dezalinierii” — situația în care IA urmărește obiective diferite de cele intenționate de om — va fi vreodată complet rezolvată. „Cazurile rare de dezaliniere din modelele actuale s-ar putea amplifica pe măsură ce aceste sisteme își dezvoltă succesorii, devenind mai frecvente, dar mai puțin înțelese, până la pierderea controlului. Este posibil să nu putem concepe, integra și verifica instrumentele necesare pentru a înțelege cu adevărat direcția în care ne îndreptăm”, avertizează compania.
Spre un tratat de tip „neproliferare”?
În fața acestor riscuri, organizația americană cere „încetinirea efectivă” a dezvoltării IA, pentru a oferi timp societății și cercetării să țină pasul cu implicațiile tehnologice. „Considerăm că ar fi benefic pentru lume să existe posibilitatea de a încetini sau suspenda temporar dezvoltarea IA de vârf, pentru a permite structurilor sociale și cercetării privind alinierea să țină pasul cu progresul tehnologic”, scrie Anthropic.
Totuși, o astfel de pauză ar fi extrem de dificil de implementat și de verificat. „Ar trebui ca fiecare actor să poată verifica dacă ceilalți și-au oprit efectiv activitatea. (…) Antrenarea modelelor IA este ușor de ascuns, iar tentația de a continua în secret este enormă: dacă toate companiile, cu excepția uneia, ar opri activitatea, compania care trișează ar obține un avantaj uriaș.”
Potrivit Anthropic, ar putea fi necesar un cadru internațional similar Tratatului privind forțele nucleare cu rază intermediară, adaptat însă la inteligența artificială. Însă astfel de reguli ar necesita „decenii pentru a fi stabilite, iar noi nu avem suficient timp”.
Gigantul american încheie anunțând că va organiza discuții între decidenți politici, cercetători, societate civilă și companii din domeniu pentru a aborda problemele ridicate de acest text, în special cele legate de auto-îmbunătățirea recursivă. O mișcare care consolidează și mai mult poziționarea sa de actor central în dezbaterea globală asupra viitorului IA.
