Autoritatea britanică de supraveghere a datelor (ICO) investighează Grok, chatbotul AI dezvoltat de xAI, compania lui Elon Musk, după ce au apărut acuzații că acesta ar fi fost folosit pentru a genera imagini sexuale cu copii. Ancheta vizează modul de procesare a datelor personale și riscurile asociate generării de conținut sexualizat neconsimțit, scrie SkyNews
Autoritatea britanică de supraveghere a datelor, Information Commissioner's Office (ICO), va investiga rapoartele potrivit cărora chatbotul AI Grok, creat de Elon Musk prin xAI, a fost folosit pentru a genera imagini sexuale cu minori.
„Rapoartele despre Grok ridică întrebări profund îngrijorătoare”, a declarat William Malcolm, reprezentant al ICO.
Grok a fost dezvoltat de xAI în 2023 și a fost conceput ca un asistent „căutător al adevărului”, cu o personalitate inteligentă, sarcastică și rebelă. Integrat în X (fostul Twitter), acesta folosește date în timp real de pe platformă pentru a genera text, imagini și cod.
Însă au apărut tot mai multe reclamații conform cărora Grok era folosit pentru a genera fotografii sexuale cu femei reale și copii, ceea ce a determinat ICO să deschidă o anchetă.
Anunțul survine în aceeași zi în care birourile X din Paris au fost percheziționate de procurori francezi, care investighează acuzații similare.
Într-un comunicat publicat pe site-ul său, ICO a confirmat că a deschis o anchetă formală privind două companii X, cu privire la modul în care acestea procesează datele personale în contextul Grok și potențialul AI-ului de a genera conținut sexualizat dăunător, inclusiv imagini și videoclipuri.
„Am luat această măsură ca urmare a rapoartelor conform cărora Grok a fost folosit pentru a genera imagini sexuale neconsimțite ale unor persoane, inclusiv copii”, se arată în comunicat. „Crearea și distribuirea acestor materiale ridică probleme serioase în baza legislației britanice privind protecția datelor și prezintă un risc de prejudiciu semnificativ pentru public.”
William Malcolm a precizat că ancheta va investiga dacă X Internet Unlimited Company și xAI au respectat legislația privind protecția datelor și dacă au implementat măsuri de siguranță suficiente. „Rapoartele despre Grok ridică întrebări extrem de grave despre modul în care datele personale ale oamenilor au fost folosite pentru a genera imagini intime sau sexualizate fără consimțământul lor și dacă au fost implementate măsurile necesare pentru a preveni acest lucru. Pierderea controlului asupra datelor personale poate cauza prejudicii imediate și semnificative, mai ales când sunt implicați copii. Rolul nostru este să abordăm aceste preocupări privind protecția datelor, recunoscând totodată că și alte organizații au responsabilități importante.”
Ofcom, de asemenea implicată
O altă autoritate de reglementare, Ofcom, a deschis luna trecută o anchetă formală asupra X în baza Online Safety Act, pentru a verifica dacă firma respectă obligațiile de protecție a oamenilor împotriva conținutului ilegal.
Comisia Europeană a lansat, de asemenea, o anchetă asupra Grok luna trecută, pentru a analiza dacă AI-ul difuzează conținut ilegal, cum ar fi imagini sexualizate manipulate, în UE.
UE se află printre numeroasele autorități internaționale care și-au exprimat îngrijorarea cu privire la Grok, alături de oficiali din Germania, Suedia, India, Japonia, Malaysia, California, Indonezia și Filipine.
Malcolm a spus că ICO colaborează îndeaproape cu Ofcom și „regulatorii internaționali”.
Grok a restricționat editarea imaginilor, dar nu a precizat țările vizate
Într-un comunicat separat, Ofcom a precizat că, deși investighează X, nu investighează xAI, care oferă aplicația standalone Grok. Ofcom a mai spus că ancheta asupra X este în curs de colectare a probelor și ar putea dura luni.
Referitor la motivul pentru care nu investighează xAI, comunicatul afirmă: „Când am deschis ancheta asupra X, am spus că evaluăm dacă ar trebui să investigăm și xAI, ca furnizor al serviciului Grok standalone. Continuăm să cerem răspunsuri de la xAI privind riscurile pe care le implică. Analizăm posibilitatea de a lansa o anchetă privind respectarea regulilor de către aceasta.”
Ofcom investighează chatbotul, iar Sir Keir Starmer a insistat că X trebuie să acționeze „imediat” pentru a respecta legile britanice. Ofcom a explicat că, din cauza modului în care Online Safety Act se aplică chatboturilor, nu poate investiga în prezent crearea de imagini ilegale de către Grok standalone.
xAI a anunțat la 14 ianuarie că a restricționat funcția de editare a imaginilor pentru utilizatorii Grok AI și a blocat, în funcție de locație, generarea de imagini cu persoane în haine revelatoare în „jurisdicțiile unde acest lucru este ilegal”. Compania nu a precizat încă țările în care se aplică aceste restricții.
Anterior, xAI spusese că a limitat funcțiile de generare și editare a imaginilor Grok doar pentru abonații plătitori.
BREAKING: The Information Commissioner's Office says it has opened an investigation into Elon Musk's generative AI chatbot Grok over its potential to produce harmful sexualised content of people, including children.https://t.co/AJLaICHD48
— Sky News (@SkyNews) February 3, 2026
???? Sky 501, Virgin 602 pic.twitter.com/HOEQ0IgQEy
