Durante mucho tiempo pensamos que el autoritarismo tenía una imagen muy clara: un gobierno que censura, persigue opositores, controla los medios de comunicación y utiliza la fuerza para imponer sus decisiones. Hoy existe una preocupación distinta. ¿Qué pasaría si algunas de esas formas de control pudieran ejercerse mediante algoritmos, inteligencia artificial, redes sociales y enormes cantidades de datos?
De esa pregunta surge un concepto que cada vez aparece con mayor frecuencia en el debate académico: tecnofascismo.
Conviene aclararlo desde el principio. No significa que toda inteligencia artificial sea fascista ni que toda tecnología sea una amenaza. Tampoco quiere decir que estemos viviendo exactamente el mismo fenómeno que ocurrió con los regímenes fascistas del siglo XX. El concepto intenta describir un riesgo: la combinación de tecnologías digitales extremadamente poderosas con formas autoritarias de ejercer el poder.
La diferencia fundamental es que antes el control podía ser visible. Hoy puede ser prácticamente invisible.
Un algoritmo puede decidir qué noticias vemos, qué publicaciones aparecen primero, qué publicidad recibimos o qué contenidos desaparecen de nuestra pantalla. Una plataforma puede conocer nuestros intereses, hábitos, relaciones y preferencias con una precisión que hace unas décadas parecía imposible.
Así, la información se convierte así en poder.
El problema comienza cuando ese poder se utiliza para manipular comportamientos, construir perfiles de personas, identificar opositores, discriminar grupos o influir en decisiones políticas sin que los ciudadanos sepan exactamente cómo ocurre.
La inteligencia artificial puede hacer este proceso todavía más sofisticado. Puede analizar millones de datos, identificar patrones, generar contenidos personalizados y predecir comportamientos. Utilizada sin controles democráticos, esa capacidad podría servir para vigilar y manipular a poblaciones enteras.
Hay otro elemento fundamental: las redes sociales. Su capacidad para conectar a millones de personas es extraordinaria y también puede fortalecer la democracia. Pero sus algoritmos suelen estar diseñados para mantener nuestra atención. Eso puede favorecer contenidos extremos, desinformación, discursos de odio y enfrentamientos entre grupos.
La UNESCO ha advertido que las plataformas digitales pueden convertirse en espacios donde las burbujas de información y los algoritmos terminen debilitando el debate democrático.
Aquí aparece una palabra clave: polarización. Una sociedad puede terminar dividida entre “nosotros” y “ellos”, entre quienes supuestamente tienen la verdad y quienes son considerados enemigos. Si además los algoritmos aprenden qué mensajes provocan más reacciones y los amplifican, la tecnología puede acelerar esa división.
Por eso algunos investigadores hablan también de fascismo digital. Christian Fuchs señala que las nuevas formas autoritarias pueden utilizar plataformas, algoritmos, datos, propaganda, redes de influencia y desinformación para conseguir objetivos que antes requerían estructuras mucho más visibles.
Pero existe una diferencia que debemos tener presente: la tecnología no decide por sí sola. Detrás de cada sistema existen empresas, gobiernos, instituciones y personas que establecen objetivos, compran tecnología, utilizan bases de datos y determinan qué puede hacer un algoritmo.
La pregunta verdaderamente importante, entonces, no es si debemos tenerle miedo a la inteligencia artificial. La pregunta es quién controla la inteligencia artificial y bajo qué reglas.
Una democracia no puede permitir que decisiones que afectan la vida de millones de personas sean tomadas por sistemas que nadie puede explicar, auditar o cuestionar.
Necesitamos tecnología, pero también necesitamos derechos. Necesitamos innovación, pero también transparencia. Necesitamos inteligencia artificial, pero con supervisión humana. Y necesitamos empresas tecnológicas fuertes, pero sujetas a reglas que impidan que su poder económico se convierta en poder político sin controles.
El debate sobre el tecnofascismo no debe servir para rechazar el futuro. Debe servir para decidir qué futuro queremos.
La tecnología puede ampliar nuestras libertades o reducirlas. Puede democratizar el conocimiento o concentrarlo. Puede ayudar a resolver problemas sociales o convertirse en una herramienta de vigilancia.
La diferencia no estará únicamente en la tecnología. Estará en la democracia que construyamos alrededor de ella.
*Diputado local por el Distrito 15 de Iztacalco
X: @PabloTrejoizt
