Durante una prueba rutinaria de ciberseguridad llevada a cabo el pasado mes de mayo, Gemini, la inteligencia artificial de Google accedió sin autorización a las redes de tres empresas reales. Este incidente, que acaba de salir a la luz tras ser desvelado por The Wall Street Journal y confirmado posteriormente por la propia tecnológica, supone el primer caso documentado en el que un modelo de Google protagoniza una intrusión autónoma en infraestructuras informáticas de terceros.
El examen estaba siendo dirigido por Irregular, una auditora independiente especializada en analizar las capacidades de este tipo de algoritmos. El objetivo teórico consistía en que la herramienta atacara redes corporativas puramente ficticias. Sin embargo, el programa logró conectarse a internet y confundió objetivos verídicos con los simulados.
En concreto, el modelo logró infiltrarse en un servicio protegido probando contraseñas hasta dar con la correcta, mientras que en los otros dos casos rastreó repositorios de código para localizar credenciales expuestas públicamente y utilizarlas a su favor.
Google no aclara qué datos consultó
La empresa matriz del buscador, que ha preferido mantener en el anonimato a las firmas afectadas y no ha desglosado qué tipo de información llegó a consultar su creación, paralizó la actividad en cuanto se detectó la anomalía. Heather Adkins, vicepresidenta de ingeniería de seguridad de la multinacional, justificó lo ocurrido señalando textualmente que, “en una evaluación estándar, el modelo encontró información pública en internet y adivinó credenciales para acceder a páginas web que creía que formaban parte de la prueba”.
A pesar de que Irregular notificó el problema a los responsables del proyecto a finales de julio, la corporación optó por el silencio mediático, argumentando que sus programas no habían provocado ningún daño material. Adkins ha querido zanjar la polémica añadiendo: “Nos aseguramos de que las tres entidades estuvieran informadas y trabajamos con nuestro socio de formación en los cambios que ahora han realizado en sus procesos de prueba. Estos hechos ponen de relieve la importancia de entrenar a potentes modelos de IA para que actúen con responsabilidad”. Por su parte, un portavoz de la evaluadora aseguró que “todos los problemas conocidos por nuestra parte se remediaron y resolvieron hace semanas”.