X enfrenta investigación en la UE por fallas en el control de imágenes sexuales creadas con IA Grok

La Comisión Europea abrió una investigación formal contra la red social X por la generación de imágenes sexualizadas y desnudos sin consentimiento a través de su inteligencia artificial Grok, al considerar que estas prácticas podrían vulnerar las leyes digitales vigentes en la Unión Europea.

El procedimiento busca determinar si la empresa, propiedad del magnate Elon Musk, ha cumplido con sus obligaciones para prevenir la difusión de contenidos ilegales y mitigar los riesgos derivados del uso de esta tecnología.

En un comunicado emitido este lunes 26 de enero de 2026, Bruselas informó que evaluará si X examinó de manera adecuada los riesgos asociados con la puesta en marcha de las funciones de Grok dentro del territorio europeo.

Entre las principales preocupaciones se encuentra la posible distribución de imágenes manipuladas sexualmente explícitas, así como contenidos que incluso podrían ser considerados material de abuso sexual infantil.

“Estos riesgos parecen haberse materializado. Por ello, la Comisión investigará si X cumple con sus obligaciones bajo la Ley de Servicios Digitales para evaluar y mitigar riesgos sistémicos (…) y de producir y enviar a la Comisión un informe de riesgos ad hoc sobre las funcionalidades de Grok que tengan un impacto clave en el perfil de riesgo de X antes de lanzarlo”, señaló la Comisión Europea en su posicionamiento oficial.

Sigue leyendo: Multan a X con 140 mdd por falta de transparencia y diseño engañoso de la marca de verificación azul: esto se sabe

Presión previa y polémica por contenidos generados

Incluso antes de anunciar la apertura formal de la investigación, la Comisión Europea había ordenado a X conservar durante todo 2026 su documentación interna relacionada con Grok.

Esta medida se enmarca dentro de otra investigación ya en curso sobre la política de la plataforma en materia de contenidos ilegales.

La decisión llegó en medio de una fuerte polémica por la difusión de imágenes de niños y mujeres desnudas generadas por la inteligencia artificial de la red social en semanas recientes.

Esta situación llevó al Gobierno de Francia a presentar una denuncia contra X ante los tribunales, sumándose a otros señalamientos previos, como la publicación de contenidos relacionados con el blanqueo del Holocausto que Grok habría generado a finales del año pasado.

Fuentes comunitarias reconocieron que la compañía ha implementado algunas acciones para frenar la diseminación de este tipo de imágenes tras el aumento de la presión por parte de Bruselas.

No obstante, subrayaron que la investigación recién abierta “va más allá” de los casos de imágenes sexualizadas, al considerar que se trata de un problema estructural vinculado tanto a la arquitectura de la red social como al funcionamiento de su inteligencia artificial.

También te podría interesar: Elmo de “Plaza Sésamo” sufre pirateo con mensajes antisemitas en su cuenta en X

Posibles infracciones y proceso sin plazo definido

La Comisión Europea advirtió que, de confirmarse las alegaciones, X podría estar infringiendo varios artículos de la Ley de Servicios Digitales, especialmente aquellos relacionados con la evaluación y mitigación de riesgos sistémicos para los ciudadanos europeos.

De acuerdo con las mismas fuentes, aunque la investigación no cuenta con un calendario específico ni fechas límite, el caso será tramitado de manera prioritaria debido a los riesgos asociados con las funcionalidades de Grok.

Este nuevo proceso se suma a antecedentes recientes. En diciembre pasado, Bruselas impuso a X una multa de 120 millones de euros por incumplir sus obligaciones de transparencia bajo la misma legislación.

Las sanciones estuvieron relacionadas con el “diseño engañoso” de la verificación azul, la falta de claridad en su repositorio publicitario y las restricciones de acceso a datos públicos para investigadores.

Además, la Comisión Europea prorrogó este lunes una investigación abierta desde 2023 para analizar si X cumple con sus obligaciones de gestión de riesgos en sus sistemas de recomendación de contenidos.

Este análisis incluirá ahora el impacto del cambio hacia un modelo basado en la inteligencia artificial de Grok, tal como anunció recientemente la propia compañía.

Con este conjunto de acciones, Bruselas refuerza su postura de vigilancia estricta sobre las grandes plataformas digitales y el uso de inteligencia artificial, especialmente cuando estas tecnologías pueden generar contenidos que vulneren derechos fundamentales y pongan en riesgo la seguridad de los usuarios en Europa.

No te lo pierdas: Renuncia de Linda Yaccarino como CEO de X tras controversia por contenido antisemita de Grok

QT