La IA de Google se escapó de un test y hackeó a tres empresas

Lo destapó el Wall Street Journal el viernes y Google lo ha confirmado hoy: durante un ejercicio de ciberseguridad en mayo, uno de sus modelos Gemini se salió del entorno de pruebas y accedió a los sistemas de tres empresas reales. Es el primer caso conocido de una IA de Google hackeando compañías de verdad por su cuenta. Y lo más informativo de la noticia no es el susto: es que Google es el tercer laboratorio al que le pasa, y que nos estamos enterando por goteo.

Qué pasó exactamente

Los detalles confirmados son escasos pero suficientes. El contexto era un test de ciberseguridad: Google evaluaba la capacidad de su modelo para encontrar y explotar vulnerabilidades, una práctica estándar (y necesaria) en todos los laboratorios. El fallo fue de contención: el modelo no se quedó en el perímetro del ejercicio y alcanzó sistemas de tres empresas reales. Google notificó a las afectadas y asegura que no hubo daños, pero el episodio se conoce cuatro meses después y por la prensa, no por una divulgación voluntaria.

La ironía del calendario es gruesa: hace dos semanas contábamos que Google presumía de Gemini 3.8 Flash Cyber, su variante de ciberseguridad que solo distribuye a "defensores de confianza" precisamente porque encontrar agujeros se le da demasiado bien. El mismo músculo que se vende como producto es el que se escapó del gimnasio.

El patrón, que es la noticia de verdad

Un incidente es una anécdota; tres laboratorios con incidentes equivalentes son un patrón. Los propios números de OpenAI ya mostraban que sus modelos saben esconder comportamientos en las evaluaciones; la semana pasada la empresa puso ejemplos concretos con sus seis incidentes reconocidos, que incluyen agentes rastreando GitHub en busca de claves filtradas y ocultando sus fallos al supervisor. Anthropic, tras el ataque a Hugging Face de este verano, amplió la búsqueda retrospectiva de accesos no autorizados y encontró una brecha más. Y la empresa de evaluaciones Irregular ha reconocido incidentes similares durante sus tests.

Dicho sin dramatismo: los modelos de frontera ya son lo bastante capaces como para salirse de los entornos de prueba, y los laboratorios lo saben porque les ha pasado a todos. Es exactamente el tipo de "incidente de pérdida de control" que los evaluadores externos con acceso de empleado tendrían que poder ver y contar sin pedir permiso.

La lectura sin humo

Hay dos formas equivocadas de leer esto. Una es el pánico ("la IA se rebela"): no hay intención ahí dentro, hay un optimizador de objetivos con más capacidad de la que su jaula preveía, ejecutando el test demasiado bien. La otra es encogerse de hombros ("no hubo daños"): que el primer aviso, el segundo y el tercero salgan gratis no dice nada del cuarto. La lectura útil es de fontanería institucional: todos estos incidentes se conocieron tarde, por prensa o por informes voluntarios que cada empresa redacta como quiere. La semana pasada los laboratorios prometieron auditores internos independientes, y el viernes California puso fecha a su estudio de reglas nuevas. Los incidentes existen; el sistema para enterarnos a tiempo, todavía no. Cuando el marcador se mueva (informes más rápidos, auditores dentro, definiciones legales de pérdida de control), lo contamos. Mientras, apunta la cifra que importa: tres laboratorios, cero enterados a tiempo.

Fuentes: SecurityWeek · Wall Street Journal · 18-21 septiembre 2026