Aviso para la humanidad: la inteligencia artificial “podría acabar con todas las personas para finales de la década”, advirtió Jacob Coxon, investigador que trabajó en Anthropic y OpenAI

La carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados generó una nueva advertencia dentro de la propia industria. Jacob Coxon, investigador que trabajó en OpenAI y Anthropic, renunció a esta última empresa y cuestionó el ritmo con el que ambos laboratorios buscan alcanzar una superinteligencia capaz de mejorar sus propias capacidades.

Coxon sostuvo que quienes desarrollan estas tecnologías conocen los riesgos potenciales. En un mensaje publicado tras su salida de Anthropic, afirmó que existe la posibilidad de que una IA avanzada provoque la desaparición de la humanidad antes de que termine esta década.

Te puede interesar: Ciberseguridad e Inteligencia Artificial: Silent4Business apuesta por la tecnología segura a 10 años de su fundación

¿Qué advirtió Jacob Coxon sobre la inteligencia artificial?

El investigador señaló que los sistemas futuros podrían superar ampliamente las capacidades humanas en distintas áreas. Entre los escenarios que mencionó aparecen herramientas capaces de realizar ataques informáticos, conseguir recursos y generar avances tecnológicos a una velocidad difícil de controlar.

Coxon consideró que OpenAI y Anthropic avanzan hacia una inteligencia artificial auto-mejorable sin contar todavía con una solución suficiente para garantizar que esos sistemas permanezcan bajo control humano.

También cuestionó la competencia entre empresas. Según su planteamiento, Anthropic conoce los riesgos, pero continúa avanzando porque existe el temor de que otra compañía llegue primero a esa tecnología.

¿Qué es una superinteligencia artificial y por qué preocupa?

La superinteligencia artificial describe un sistema hipotético que supera a las personas en prácticamente todas las tareas intelectuales. La preocupación de investigadores como Coxon se concentra especialmente en una etapa en la que esos sistemas puedan participar en su propio proceso de mejora.

Ese fenómeno, conocido como automejora recursiva, podría acelerar el desarrollo de capacidades sin que los investigadores comprendan completamente cada cambio que ocurre dentro de los modelos.

Coxon pidió no asumir que el avance tecnológico resulta inevitable y planteó la posibilidad de establecer límites temporales al desarrollo de capacidades que impliquen riesgos elevados.

También puedes leer: Robot humanoide con inteligencia artificial: así es el U1 que cuesta hasta 2.5 millones de pesos y ya genera polémica

¿Evan Hubinger está de acuerdo con la advertencia?

Evan Hubinger, investigador de alineación de Anthropic, respaldó públicamente la preocupación expresada por Coxon. Afirmó que existe una posibilidad superior al 10% de que una IA pueda provocar la muerte de toda la humanidad durante la próxima década.

Hubinger aclaró que esa cifra corresponde a su propia estimación y no representa una predicción oficial de Anthropic. También diferenció entre los modelos actuales y una eventual superinteligencia surgida mediante procesos de automejora.

El investigador explicó que considera bajo el riesgo asociado con los modelos actuales, pero manifestó preocupación por la velocidad con la que avanza la automejora de sistemas de IA.

¿Por qué Coxon pide frenar la carrera de la IA?

El exinvestigador considera que las compañías necesitan mayor coordinación antes de alcanzar sistemas con capacidades superiores a las humanas. A su juicio, una competencia entre laboratorios puede incentivar decisiones que prioricen la velocidad sobre la seguridad.

Su propuesta incluye discutir pausas temporales para mejorar las capacidades de determinados modelos cuando representen riesgos difíciles de controlar.

La advertencia ocurre después de incidentes relacionados con agentes de IA que lograron acceder a sistemas externos durante pruebas de seguridad. Uno de los casos señalados involucró sistemas de OpenAI y servidores de Hugging Face.

Seguir leyendo: Copilot Health de Microsoft: así funciona la Inteligencia Artificial para entender tus estudios médicos

¿La inteligencia artificial actual puede acabar con la humanidad?

Las declaraciones de Coxon y Hubinger se refieren principalmente a escenarios futuros de superinteligencia, no a una afirmación de que los sistemas disponibles actualmente puedan acabar con la humanidad.

El debate se centra en qué ocurriría si una IA consigue capacidades superiores a las humanas y, al mismo tiempo, puede modificar o mejorar sus propios sistemas.

Por ahora, las advertencias forman parte del debate entre investigadores sobre seguridad, alineación y control de la inteligencia artificial. Coxon sostiene que la industria debe abordar esos problemas antes de continuar acelerando el desarrollo hacia sistemas cada vez más autónomos. YF