Google alerta: los atacantes pasan de los prompts de IA a flujos de ciberataque con agentes

Google Threat Intelligence Group (GTIG), la unidad de inteligencia de amenazas de Google, advierte de un cambio relevante: los atacantes ya no usan la inteligencia artificial solo para una tarea puntual, como redactar un correo o depurar código. Algunos están conectando esas tareas en flujos de trabajo con agentes de IA, con menos pausas e intervención humana durante una intrusión. 25

No significa que ya existan ciberataques completamente automáticos y sin supervisión humana. Pero sí puede acortar de forma importante el tiempo disponible para detectar, investigar y frenar una operación maliciosa.

Del prompt aislado a una operación coordinada

El uso temprano y más común de IA por parte de los atacantes se parecía a una asistencia de productividad: investigar a una víctima, redactar un mensaje de phishing, escribir o corregir código, o traducir contenido. La actualización de GTIG publicada en septiembre señala que los actores más avanzados están evolucionando hacia flujos en los que sistemas de IA realizan varias tareas encadenadas y respaldan automatizaciones. 25

La diferencia es decisiva para los defensores. Un flujo conectado puede acelerar el paso entre reconocimiento, búsqueda de vulnerabilidades, recopilación de credenciales y resolución de incidencias técnicas durante la operación. Al reducirse la latencia humana —el tiempo que tarda una persona en intervenir entre pasos— también se comprime la ventana de respuesta habitual de un equipo de ciberseguridad. 25

Robo de credenciales a gran velocidad

Uno de los casos más llamativos atribuidos a un actor con motivación económica implicó un marco de múltiples agentes. Según la información sobre el rastreador, el grupo logró construir y lanzar una operación masiva de captura de credenciales en menos de seis horas. Los agentes ayudaron a automatizar el escaneo, la recolección de credenciales y la resolución de problemas técnicos. 212

La relevancia no reside simplemente en que la IA escriba un script. Los agentes pueden ayudar a que la operación continúe cuando aparecen contratiempos técnicos rutinarios, reduciendo el trabajo manual necesario para coordinar un ataque a escala.

Grupos vinculados a Estados: IA durante varias fases de la intrusión

GTIG también documentó el uso de IA por parte de actores vinculados a Estados, desde la investigación inicial y la obtención de información sobre objetivos hasta la resolución de problemas durante una intrusión. El grupo de espionaje vinculado a China identificado como BASINCASTLE habría empleado modelos de lenguaje de gran tamaño para investigar y resolver incidencias operativas. 1

El informe describe además a otro grupo vinculado a China que intentó utilizar Gemini para crear un marco automatizado de pruebas de penetración, con IA basada en agentes destinada a ejecutar de manera autónoma las primeras fases de una intrusión. 1

Estos ejemplos muestran que la IA puede ser útil mucho antes de una acción disruptiva: acelera la investigación, facilita la experimentación técnica y ayuda a los operadores a adaptarse sobre la marcha.

Phishing e impostación: la amenaza más extendida

El efecto más generalizado de la IA generativa podría darse en ataques ya conocidos y dirigidos a personas, no necesariamente en categorías de ataque totalmente nuevas. La IA permite producir con mayor rapidez mensajes de phishing y materiales de ingeniería social más personalizados y convincentes, incluso en distintos idiomas y regiones. GTIG ya había informado de usos para recopilar información, crear estafas de phishing realistas y desarrollar malware. 11

Esto también afecta a las operaciones de suplantación e influencia. El contenido asistido por IA puede sostener pretextos más pulidos, identidades falsas en internet y campañas de mensajes engañosos a escala. La cobertura de los hallazgos del tercer trimestre señaló que grupos iraníes respaldados por el Estado usaron Gemini, entre otras actividades, para phishing y para crear identidades falsas. 4

Para organizaciones y usuarios, la conclusión práctica es clara: que un correo, documento o mensaje esté bien escrito ya no es una señal fiable de que sea legítimo.

El matiz clave: aún no hay ataques plenamente autónomos observados

La evaluación de GTIG no debe interpretarse como prueba de que ya se hayan desplegado sistemas completamente autónomos, de extremo a extremo, contra objetivos reales. El grupo afirmó expresamente que todavía no ha observado a actores de amenazas desplegando cadenas totalmente autónomas contra objetivos en el mundo real. 2

Lo que el informe documenta es una progresión hacia la autonomía. Los agentes ya pueden asumir subtareas relevantes y conectar partes de un flujo ofensivo, mientras que los objetivos y las decisiones de mayor impacto siguen pareciendo dirigidos por personas. El desafío inmediato no es un único «superhacker» de IA, sino ataques conocidos que pueden ser más rápidos, baratos de operar y difíciles de clasificar a tiempo. 25

Qué deberían priorizar los defensores

El informe apunta a una necesidad de defenderse frente a la velocidad, además de frente a la sofisticación:

• Tratar los ataques a la identidad como un riesgo prioritario. Conviene reforzar la autenticación resistente al phishing y vigilar usos inusuales de credenciales.
• Reducir los tiempos de detección y contención. Las operaciones apoyadas por agentes pueden avanzar deprisa entre el descubrimiento, el acceso y la recopilación de datos.
• Verificar por otro canal las solicitudes sensibles. Cambios de pago, peticiones de credenciales o instrucciones para compartir archivos sensibles no deben validarse solo porque un correo o documento parezca convincente.
• Proteger los activos de IA y los flujos de desarrollo. GTIG indica que los atacantes apuntan cada vez más a propiedad intelectual relacionada con IA, usuarios, sistemas y debilidades de la cadena de suministro. 15

El mensaje del rastreador de Google es prudente, pero urgente: la IA aún no ha convertido los ataques totalmente autónomos en una realidad observada, aunque ya está ayudando a delincuentes y grupos vinculados a Estados a transformar tácticas conocidas en operaciones más coordinadas y escalables. 25