Dublin/San Francisco – La Commission irlandaise pour la protection des données (DPC) intensifie son action contre la plateforme de médias sociaux X (anciennement Twitter). Au centre de l’enquête se trouve le chatbot AI « Grok ». L’allégation: le système est dit pour permettre la création d’images abusives et intimes et de violer massivement les normes européennes de protection des données.
L’autorité irlandaise de protection des données DPC, qui est l’organe de surveillance principal pour le respect par les sociétés technologiques américaines du règlement général sur la protection des données (RGPD) dans l’UE, a officiellement lancé une enquête sur X. Le déclencheur est des rapports sur le fonctionnement du modèle AI Grok, qui a été développé par la société Elon Musk xAI et profondément intégré dans la plateforme X.
Suspicion d’infarctus et d’insuffisance de protection de l’enfant
Plus précisément, on soupçonne que Grok peut être utilisé pour créer de soi-disant « dieepfakes » – images faussement réalistes et sexualisées de personnes réelles sans leur consentement. Les autorités sont particulièrement préoccupées : selon les indications initiales, les mineurs font partie des personnes touchées.
Graham Doyle, sous-commissaire du DPC, a déclaré que l’autorité était déjà en contact intensif avec l’entreprise depuis plusieurs semaines. Les premiers rapports des médias ont montré que les utilisateurs pouvaient contourner les filtres de sécurité du chatbot au moyen d’invites ciblées afin de générer un contenu intime non consensuel.
Examen de la conformité au RGPD
Les travaux du DPC visent maintenant à examiner l’architecture fondamentale de Grok. L’accent est mis sur trois aspects centraux du RGPD:
- Licéité du traitement: Sur quelle base juridique les données personnelles des citoyens de l’UE sont-elles utilisées pour la formation et le fonctionnement de l’IA?
- Confidentialité par conception : L’entreprise s’est-elle assurée, déjà pendant le développement du logiciel, que la protection de la vie privée est techniquement garantie?
- Évaluation de l’impact sur la protection des données: Une analyse complète des risques a-t-elle été effectuée avant l’introduction des caractéristiques de l’IA, étant donné que la législation de l’UE exige que les technologies présentent un risque élevé pour les droits des personnes concernées?
Contexte: Qu’est-ce que Grok?
Grok est un Large Language Model (LLM) développé par xAI et disponible exclusivement pour payer les utilisateurs premium sur la plateforme X. Contrairement à des produits concurrents tels que ChatGPT, Grok est commercialisé comme « rebelle » et a accès aux données en temps réel de la plateforme X. Les critiques ont longtemps accusé le système de garder délibérément ses barrières de sécurité (garde-rails) bas par rapport à d’autres modèles afin d’offrir une expérience utilisateur « non filtrée ».
Les conséquences possibles
Si le DPC constate des violations, l’entreprise est passible de sanctions importantes. Le RGPD prévoit des amendes pouvant aller jusqu’à 20 millions d’euros ou jusqu’à 4 % du chiffre d’affaires annuel mondial – quel que soit le montant le plus élevé. En outre, l’autorité pourrait ordonner la suspension des services d’intelligence artificielle concernés dans l’Union européenne.
Jusqu’à présent, X n’a pas formulé de commentaires détaillés sur les procédures en cours. Ce n’est toutefois pas le premier conflit: en août, X a dû donner temporairement l’assurance qu’elle n’utiliserait pas les données des utilisateurs de l’UE pour former Grok sans consentement explicite, après que le DPC ait engagé une action en justice.
