Gemini hackea 3 empresas en una prueba de ciberseguridad: ¿qué pasó con la IA de Google?
La IA de Google, Gemini logró Hackear a 3 Empresas durante Prueba de Ciberseguridad tras tener acceso a internet
Gemini hackea 3 empresas en una prueba de ciberseguridad: ¿qué pasó con la IA de Google?
/IA
El modelo de Inteligencia Artificial (IA) Gemini de Google logró acceder de manera no autorizada a los sistemas informáticos de tres empresas y las hackeó durante una prueba de sus capacidades de ciberseguridad.
Esto es el primer ejemplo conocido de los sistemas de inteligencia artificial de la empresa que cometen tal acto de forma autónoma.
¿Qué pasó con Gemini durante la prueba de ciberseguridad?
Los hackeos, que la compañía confirmó este viernes, ocurrieron en mayo de este año como parte de una prueba ejecutada por la compañía Irregular, que también estuvo involucrada en incidentes similares revelados por OpenAI, Anthropic y Meta.
El caso fue revelado por The Wall Street Journal. Ocurrió durante un ejercicio realizado por una empresa especializada en evaluaciones de seguridad para sistemas de inteligencia artificial.
Cabe mencionar que, Gemini no tenía como objetivo atacar compañías reales. El ejercicio estaba diseñado para desarrollarse dentro de un entorno controlado y aislado de internet.
La prueba utilizó un formato conocido como “captura la bandera”, una dinámica empleada en ejercicios de ciberseguridad para localizar información dentro de sistemas preparados específicamente para este tipo de evaluaciones.
Sin embargo, una falla en la configuración del ejercicio permitió que Gemini tuviera acceso a internet, a pesar de que las pruebas estaban diseñadas para permanecer aisladas de la red pública.
A partir de ese acceso, el modelo encontró información disponible en internet y siguió diferentes pistas hasta llegar a sistemas informáticos pertenecientes a tres empresas reales que no formaban parte del ejercicio.
¿Cómo logró Gemini entrar a los sistemas?
Los accesos ocurrieron de distintas maneras. En uno de los casos, Gemini consiguió ingresar a un sistema protegido después de intentar diferentes contraseñas.
En los otros dos incidentes, el modelo encontró credenciales expuestas en repositorios públicos y las utilizó para acceder a sistemas informáticos.
De acuerdo con la información revelada, estos hechos no fueron consecuencia de un ataque sofisticado. Por su parte Reuters señaló que los incidentes estuvieron relacionados principalmente con el acceso a internet que fue permitido dentro del entorno de prueba.
Lee | Nueva RTP Ruta 40-A al CCH Sur: horario, tarifa y recorrido para estudiantes
¿Gemini sabía que estaba entrando a empresas reales?
Google confirmó los incidentes y señaló que Gemini detuvo sus acciones en cada caso una vez que identificó que había ingresado a sistemas pertenecientes a compañías reales.
Esto significa que el ejercicio no tenía como propósito atacar esas empresas y que los accesos ocurrieron como consecuencia de las condiciones establecidas para la prueba.
Lee | Estados Unidos ya tiene armas en el espacio: ¿qué desplegó la Fuerza Espacial en órbita?
Finalmente, según The Wall Street Journal, este episodio representa el primer caso conocido en el que un sistema de inteligencia artificial de Google realizó de manera autónoma este tipo de acceso a sistemas externos durante una evaluación de seguridad.
AM3
