O eroare bizară a unui instrument de inteligență artificială a fost la un pas de a declanșa un conflict armat de proporții între Statele Unite și China. Potrivit unor dezvăluiri recente făcute de CNN și preluate de Le Figaro, un raport de informații generat de un chatbot — care susținea în mod fals că o navă chineză transporta componente nucleare în Orientul Mijlociu — a mobilizat rapid trupele americane pentru o operațiune de interceptare în plină criză cu Iranul. Deși dezastrul a fost evitat la limită, după ce oficialii militari au descoperit în ultima secundă că documentul era complet fabricat de o „halucinație” digitală, incidentul trage un semnal de alarmă înfiorător: cât de sigur este să lăsăm decizii de viață și de moarte, cum ar fi stabilirea țintelor militare, pe mâna unor algoritmi rapizi, dar predispuși la greșeli catastrofale?
O tragedie a fost evitată la limită, dacă este să ne luăm după informațiile publicate de CNN. Televiziunea americană a relatat în această vineri că inteligența artificială ar fi „fost la un pas de a declanșa un război” între Statele Unite și China în primăvara trecută, după ce a redactat un raport de informații eronat. Documentul era „în întregime fals”, dar „a fost la un pas de a declanșa un război”, a dat asigurări o sursă apropiată dosarului.
Acest raport de informații, difuzat în cadrul armatei americane, ar fi semnalat că o navă chineză staționată în Orientul Mijlociu transporta componente destinate unui program de arme nucleare. Potrivit a patru surse familiarizate cu subiectul, armata americană s-a mobilizat rapid la citirea raportului, primind ordinul de a intercepta nava. Avioane militare fuseseră desfășurate și survolau zona, iar militari americani se pregăteau să urce la bord. Operațiunea ar fi fost anulată în cele din urmă cu puțin timp înainte de declanșarea ei, potrivit CNN, după ce responsabilii au descoperit că IA pur și simplu greșise. Postul de televiziune nu a precizat ce transporta efectiv nava și nici care era destinația acesteia.
Fuziune de informații
În acest caz, chatbotul a fost interogat de un analist militar care căuta informații despre o navă chineză menționată într-un alt raport, redactat anterior de Comandamentul Operațiunilor Speciale ale SUA pentru Pacific (SOCPAC), cu sediul în Hawaii.
Chatbotul – despre care nu se știe dacă era un model comercial sau un instrument dezvoltat în mod special pentru armata americană – a combinat informațiile confidențiale din raport cu date disponibile în mod liber pe internet, înainte de a ajunge la concluzia că nava transporta componente nucleare. Analistul militar a utilizat apoi din nou chatbotul, de data aceasta pentru a compila toate aceste date și a le include într-un nou raport de informații, pe care l-a difuzat ulterior prin canalele armatei americane.
Potrivit mai multor surse citate de CNN, armata americană apelează tot mai des la IA pentru operațiunile sale de stabilire a țintelor, un domeniu în care cea mai mică eroare poate avea consecințe grave. „Utilizarea IA pentru stabilirea țintelor este în mod clar în creștere, dar nicio directivă precisă nu definește în prezent modul în care supravegherea umană poate preveni efectiv victimele civile sau erorile”, a apreciat o sursă pentru mass-media americană.
Avertismente multiple
În ianuarie, secretarul pentru Război Pete Hegseth și-a publicat „Strategia de accelerare a inteligenței artificiale”, un document care vizează accelerarea utilizării IA de către armata americană. „Vom dezlănțui experimentarea, vom elimina barierele birocratice, ne vom concentra investițiile și vom demonstra (...) că suntem în fruntea IA militare”, a clamat el într-un discurs prin care a prezentat documentul.
Acest episod survine în timp ce sectorul tehnologic înmulțește avertismentele împotriva „decalibrării” modelelor (unalignment), un fenomen prin care o inteligență artificială urmărește acțiuni considerate dăunătoare pentru umanitate sau care nu corespund în realitate cu ceea ce i-a cerut omul. În cazul navei chineze, IA a „halucinat” probabil, producând așadar o informație falsă sau inventată, cuicul singurului scop de a-și satisface utilizatorul. În ciuda pericolelor reprezentate de IA, Donald Trump și mai mulți membri ai majorității prezidențiale și-au reafirmat recent dorința de a nu reglementa sectorul, oficial de teamă să nu vadă China câștigând supremația.
