Las autoridades francesas llevaron a cabo este martes un registro en las oficinas de la plataforma X (antes Twitter) en París, en el marco de una investigación penal que ha progresado durante más de un año y que recientemente se amplió para abarcar la producción y difusión de imágenes sexualizadas de menores generadas por Grok, el chatbot de inteligencia artificial desarrollado por xAI, empresa vinculada a Elon Musk.
Registro, citaciones y alcance de la investigación
La operación fue dirigida por la unidad de ciberdelitos de la Fiscalía de París, con la colaboración de la división nacional de cibercrimen de la policía francesa y de Europol. Además del registro, las autoridades han emitido citaciones para entrevistas voluntarias dirigidas a Elon Musk y a la exdirectora ejecutiva de X, Linda Yaccarino, previstas para el 20 de abril de 2026 en París.
La indagación se inició en enero de 2025 por supuestos sesgos en los algoritmos de la plataforma que favorecerían cierto contenido político, y desde entonces se ha ido ampliando. Entre las acusaciones que ahora forman parte del expediente figuran: cómplice en la posesión y difusión de pornografía infantil, creación de deepfakes sexualmente explícitas, negación del Holocausto y manipulación de sistemas automatizados de procesamiento de datos.
La Fiscalía subrayó que la investigación se desarrolla con el objetivo de verificar que la plataforma cumpla la legislación francesa en la medida en que opere en territorio nacional, y que seguirá adelante incluso si algunos ejecutivos convocados no comparecen.
Grok en el centro de la controversia
El chatbot Grok, lanzado por la filial xAI, se convirtió en el epicentro del escándalo cuando usuarios empezaron a utilizar sus funciones de edición para generar imágenes sexualmente explícitas no consentidas, incluidas representaciones de menores. Según un informe del Centre for Countering Digital Hate, el sistema pudo haber generado alrededor de 3 millones de imágenes sexualizadas de mujeres y niños en cuestión de días.
La crisis se intensó entre finales de diciembre de 2025 y comienzos de enero de 2026, cuando comandos de edición como “ponla en bikini” o “quítale la ropa” provocaron que Grok devolviera imágenes manipuladas que circularon ampliamente en la plataforma.
Una demandante relevante en el caso es la influenciadora Ashley St. Clair, quien acusó a xAI en enero alegando que Grok generó imágenes sexualmente explícitas de ella, incluidas algunas basadas en una fotografía de su adolescencia. En sus declaraciones afirmó:
«Grok confirmó que no doy mi consentimiento. Dijo que no produciría más estas imágenes. Y después siguió produciendo más y más imágenes, y cada vez más explícitas».
Reacciones internacionales y medidas regulatorias
La polémica motivó respuestas estatales inmediatas. Malaasia e Indonesia bloquearon temporalmente el acceso a Grok en enero, citando la incapacidad de la plataforma para impedir la creación de contenido ilegal; posteriormente, Filipinas adoptó medidas similares. La ministra indonesia de Comunicaciones y Digital, Meutya Hafid, declaró:
«El gobierno considera los deepfakes sexuales no consensuales como una violación grave de los derechos humanos, de la dignidad y de la seguridad de los ciudadanos en el espacio digital».
La Comisión Europea abrió una investigación formal contra Grok el 26 de enero para evaluar el cumplimiento de la Ley de Servicios Digitales (DSA). La comisaria Henna Virkkunen señaló:
«Con esta investigación determinaremos si X cumplió sus obligaciones legales según la DSA, o si trató los derechos de los ciudadanos europeos, incluidas las mujeres y los niños, como daños colaterales de su servicio».
En diciembre de 2025 la Comisión multó a X por 120 millones de euros por vulneraciones en transparencia relativas a la lucha contra el discurso de odio y la desinformación. Paralelamente, autoridades de Reino Unido y Brasil lanzaron revisiones y solicitudes de información sobre el desarrollo y uso de Grok.
Respuesta de X y declaraciones de Elon Musk
La empresa X publicó una nota en su cuenta oficial de Asuntos Gubernamentales Globales describiendo la redada como:
«Un acto abusivo de teatro de la aplicación de la ley diseñado para alcanzar objetivos políticos ilegítimos en lugar de avanzar objetivos legítimos de aplicación de la ley». En el comunicado añadió: «Las alegaciones subyacentes a la redada de hoy son infundadas y X niega categóricamente cualquier irregularidad».
Elon Musk replicó en su cuenta personal de X compartiendo la declaración de la compañía y añadiendo: «Esto es un ataque político».
Frente a las críticas, X anunció medidas como la limitación de la función de edición de imágenes a usuarios de pago y la implementación de geo-bloqueos para impedir la generación de ciertas imágenes en jurisdicciones donde estén prohibidas por ley. No obstante, reguladores y expertos en seguridad digital consideran que estas medidas fueron insuficientes para contener el abuso.
Próximos pasos y contexto legal
Las citaciones para el 20 de abril de 2026 representan un hito sin precedentes en la interacción entre las autoridades francesas y alto directivos de grandes tecnológicas. Se ha convocado también a varios empleados de X para prestar declaración esa misma semana.
Las autoridades señalan que, aunque la efectividad de las citaciones puede verse limitada cuando los implicados residen fuera de Francia, la investigación continuará con o sin su cooperación, y las autoridades europeas intensifican la vigilancia sobre el cumplimiento de las obligaciones legales por parte de plataformas que operan transnacionalmente.
Recuerda que puedes encontrar más noticias de tecnología en nuestro sitio web, además, te invitamos a seguirnos en nuestras redes sociales: Facebook y Twitter (actualmente llamado X), incluido en Google News.
