Dublino/San Francisco – La Commissione irlandese per la protezione dei dati (DPC) sta intensificando la sua azione contro la piattaforma dei social media X (ex Twitter). Al centro dell’indagine c’è il chatbot AI “Grok”. L’accusa: il sistema è detto per consentire la creazione di immagini abusive, intime e per violare massicciamente gli standard europei di protezione dei dati.
L’autorità irlandese per la protezione dei dati DPC, che funge da principale organo di vigilanza per la conformità delle società tecnologiche degli Stati Uniti al Regolamento generale sulla protezione dei dati (GDPR) nell’UE, ha ufficialmente lanciato un’indagine su X. Il grilletto è un report sui lavori del modello AI Grok, sviluppato dalla società xAI di Elon Musk e profondamente integrato nella piattaforma X.
Sospetto di Deepfakes e protezione del bambino inadeguato
Nello specifico, c’è il sospetto che Grok possa essere usato per creare i cosiddetti “deepfakes” – immagini ingannevolmente realistiche e sessualizzate di persone reali senza il loro consenso. Di particolare interesse per le autorità: secondo indicazioni iniziali, i minori sono tra i soggetti interessati.
Graham Doyle, vice commissario del DPC, ha dichiarato che l’autorità è già stata in contatto intensivo con la società per diverse settimane. I primi rapporti dei media avevano dimostrato che gli utenti erano in grado di bypassare i filtri di sicurezza del chatbot attraverso suggerimenti mirati al fine di generare contenuti intimi non conformi.
Valutazione della conformità GDPR
Il processo del DPC mira ora a esaminare l’architettura fondamentale di Grok. Il focus è su tre aspetti centrali del GDPR:
- Giudizio del trattamento: Su quale base giuridica sono i dati personali dei cittadini dell’UE utilizzati per la formazione e il funzionamento dell’IA?
- Privacy by Design: L’azienda ha assicurato, già durante lo sviluppo del software, che la protezione della privacy è tecnicamente garantita?
- Valutazione dell’impatto sulla protezione dei dati (DPIA): Un’analisi completa del rischio effettuata prima dell’introduzione delle caratteristiche dell’AI, in quanto la legislazione UE richiede per le tecnologie che presentano un elevato rischio per i diritti degli interessati?
Background: Che cosa è Grok?
Grok è un Large Language Model (LLM) sviluppato da xAI e disponibile esclusivamente per pagare utenti premium sulla piattaforma X. A differenza di prodotti concorrenti come ChatGPT, Grok è commercializzato come “rebellious” e ha accesso a dati in tempo reale dalla piattaforma X. Critics hanno a lungo accusato il sistema di mantenere deliberatamente le sue barriere di sicurezza (guardrails) basse rispetto ad altri modelli al fine di offrire un’esperienza utente “non filtrata”.
Possibili conseguenze
Se il DPC trova violazioni, l’azienda affronta sanzioni significative. Il GDPR prevede ammende fino a 20 milioni di euro o fino al 4 per cento del fatturato annuo mondiale – qualsiasi importo è più alto. Inoltre, l’autorità potrebbe ordinare la sospensione dei servizi AI rilevanti nell’Unione europea.
X finora non ha commentato dettagliatamente il procedimento in corso. Non è il primo conflitto, tuttavia: nel mese di agosto, X ha dovuto temporaneamente assicurarsi che non avrebbe utilizzato i dati dell’utente dall’UE per formare Grok senza esplicito consenso, dopo che il DPC aveva avviato un’azione legale.
