Dublin/San Francisco – La Comisión de Protección de Datos de Irlanda (DPC) está intensificando su acción contra la plataforma de redes sociales X (antes Twitter). En el centro de la investigación está el chatbot de AI «Grok». The allegation: the system is said to enable the creation of abusive,tim images and to massively violate European data protection standards.
La autoridad irlandesa de protección de datos DPC, que sirve como órgano de supervisión principal para el cumplimiento por las empresas tecnológicas estadounidenses del Reglamento General de Protección de Datos en la UE, ha iniciado oficialmente una investigación sobre X. El gatillo es reporte sobre los trabajos del modelo AI Grok, que fue desarrollado por la empresa de Elon Musk xAI y profundamente integrado en la plataforma X.
Suspicion of Deepfakes and Inadequate Child Protection
Específicamente, hay una sospecha de que Grok puede ser utilizado para crear las llamadas «deepfakes» – imágenes engañosamente realistas y sexualizadas de personas reales sin su consentimiento. Of particular concern to the authorities: according to initial indicates, minors are among the affected individuals.
Graham Doyle, Comisionado Adjunto del DPC, declaró que la autoridad ya ha estado en contacto intensivo con la empresa durante varias semanas. Los informes iniciales de los medios de comunicación habían demostrado que los usuarios podían evitar los filtros de seguridad del chatbot a través de avisos específicos para generar contenido íntimo no confidencial.
Examen del cumplimiento del RGPD
Los procedimientos del DPC ahora tienen como objetivo examinar la arquitectura fundamental de Grok. El enfoque se centra en tres aspectos centrales del RGPD:
- La legalidad del procesamiento: ¿Cuál es la base legal de los datos personales de los ciudadanos de la UE utilizados para la formación y funcionamiento de la AI?
- Privacidad por Diseño: ¿Se aseguró la empresa, ya durante el desarrollo del software, que la protección de la privacidad está garantizada técnicamente?
- Evaluación de los efectos en la protección de datos (DPIA): ¿Se llevó a cabo un análisis amplio de riesgos antes de la introducción de las características de la IA, ya que la legislación de la UE requiere tecnologías que plantean un alto riesgo para los derechos de los sujetos de datos?
Antecedentes: ¿Qué es Grok?
Grok es un modelo de lenguaje grande (LLM) desarrollado por xAI y disponible exclusivamente para pagar usuarios premium en la plataforma X. A diferencia de productos competidores como ChatGPT, Grok se comercializa como «rebellious» y tiene acceso a datos en tiempo real de la plataforma X. Los críticos han acusado desde hace tiempo el sistema de mantener deliberadamente sus barreras de seguridad (guardrails) bajo en comparación con otros modelos para ofrecer una experiencia de usuario «sin filtrar».
Posibles consecuencias
Si el DPC encuentra violaciones, la empresa enfrenta sanciones significativas. El RGPD prevé multas de hasta 20 millones de euros o hasta el 4% de la facturación anual mundial – cualquier cantidad es mayor. Además, la autoridad podría ordenar la suspensión de los servicios pertinentes de AI en la Unión Europea.
X hasta la fecha no ha formulado observaciones detalladas sobre los procedimientos en curso. No es el primer conflicto, sin embargo: en agosto, X tuvo que dar garantías temporales de que no utilizaría datos de los usuarios de la UE para capacitar a Grok sin consentimiento explícito, después de que el DPC hubiera iniciado una acción legal.
