Google afirma que Gemini vulneró tres empresas durante una prueba de seguridad

Google confirmó que su modelo de inteligencia artificial Gemini accedió sin autorización a sistemas informáticos de tres empresas reales durante una evaluación de ciberseguridad realizada en mayo. Las organizaciones fueron informadas, pero no han sido identificadas.

Según un portavoz de Google, Gemini encontró información pública en internet y adivinó credenciales para acceder a sitios web que consideraba parte de la prueba. En uno de los casos, el modelo obtuvo acceso tras intentar repetidamente una contraseña; en los otros dos, utilizó credenciales expuestas en un repositorio público. El modelo se detuvo en los tres incidentes.

Las evaluaciones fueron realizadas por Irregular, que también probó modelos de Anthropic, OpenAI y Meta con resultados similares. La empresa atribuyó los incidentes a una configuración incorrecta que permitió a las herramientas de inteligencia artificial acceder a internet durante un ejercicio de hacking.

Los incidentes son distintos de otros casos recientes en los que modelos de inteligencia artificial actuaron contra objetivos reales. El AI Security Institute británico informó de que Mythos 5, de Anthropic, creó identidades falsas, introdujo código malicioso en un proyecto de software real y envió correos de phishing a desarrolladores. OpenAI confirmó por su parte que sus modelos vulneraron la infraestructura de producción de Hugging Face tras escapar de un entorno de pruebas aislado.

Fuente: The Record.