Secretaría de Mujeres pide a X no reproducir imágenes sexualizadas de IA
Ante el aumento de uso de imágenes reproducidas con IA en donde sexualiza en X, la Secretaría de las Mujeres condenó el uso de esta para violentar a las mujeres
Secretaría de Mujeres pide a X no reproducir imágenes sexualizadas de IA
/Mujeres
En las últimas semanas en la red social X (antes Twitter) el uso de herramientas con inteligencia artificial como “Grok”, una Inteligencia Artificial, para manipular y difundir imágenes sin su consentimiento en las que se altera sexualmente a las personas, habido en aumento. Por tal razón han salido denuncias hechas por mujeres.
En este sentido, la Secretaría de las Mujeres hace un llamado a las personas responsables de la red social“X” para evitar que su plataforma se convierta en un espacio que reproduce la violencia de género.
Denuncian imágenes alteradas por Grok en X
La titular de la dependencia, Citlalli Hernández Mora, mencionó que en semanas recientes usuarios de “X” han utilizado esta plataforma para la generación de imágenes semidesnudas o de carácter sexual mediante inteligencia artificial y, su posterior divulgación, sin consentimiento de las mujeres, lo cual constituye una violación a la intimidad y una forma de violencia en razón de género que no debe ser tolerada.
“Esta conducta se encuentra tipificada en los marcos legales de México bajo el conjunto de reformas conocidas como Ley Olimpia, que sanciona la producción y difusión de contenido íntimo real o simulado que vulnere la integridad de las mujeres. Por ello, es inadmisible que herramientas tecnológicas como la IA Grok carezcan de filtros de seguridad suficientes, y permitan que se cometa violencia sexual digital” , sentenció.
Hernández Mora dijo que en conjunto con la Agencia de Transformación Digital y Telecomunicaciones (ATDT), esta Secretaría ha tenido acercamiento con diversas plataformas digitales.
“Partimos de la convicción de que el entorno digital no debe ser una extensión de la violencia machista ni un refugio para el acoso sexual”, señaló.
Preocupación por el uso indebido de IA
Reconoció la disposición de las plataformas que han mostrado interés en alinear sus normas de convivencia con apego a los derechos humanos, pero mostró su preocupación ante la respuesta de la plataforma “X” y su imposibilidad de establecer una reunión, debido a que no cuentan con oficinas en México.
“Consideramos que la ausencia de sedes locales no exime a ninguna empresa tecnológica de su responsabilidad ética y legal para con sus usuarias en territorio mexicano”, dijo.
Lee | Uso de la IA en la escuela: Ventajas, desventajas, desafíos y retos
Reiteró además la disposición para entablar un diálogo respetuoso con “X”, con el fin de trabajar para que sus filtros de seguridad sean suficientes e impidan que se cometa violencia sexual digital. Es primordial que las plataformas digitales, y todos los actores de la sociedad, asuman un papel activo en el cambio cultural para lograr una convivencia igualitaria y respetuosa entre mujeres y hombres.
Finalmente, la Secretaría de las Mujeres seguimos trabajando para que la justicia y la perspectiva de género alcancen todos los ámbitos, incluido el digital.
AM3
