De asistentes a flujos de ataque: cómo la IA está cambiando la ciberdelincuencia

La conclusión común no es que la IA haya creado formas completamente nuevas de intrusión, sino que está convirtiendo técnicas ya conocidas en flujos de trabajo repetibles y de varios pasos. Los modelos pueden ayudar a planificar, generar, probar, adaptar y escalar ataques con menos trabajo especializado y menos tiempo de intervención manual. La evidencia es más sólida en cuanto a la aceleración y coordinación de operaciones conocidas que respecto de sistemas plenamente independientes y sin una dirección humana relevante. 107

De asistente a componente operativo

Google describió un paso desde las consultas aisladas a flujos integrados con agentes: automatización de escaneos, recolección de credenciales, resolución de problemas y rotación de infraestructura. El resultado potencial es comprimir una operación que antes requería varias herramientas y operadores en una cadena que itera con rapidez. 11

No obstante, conviene distinguir entre automatizar etapas y una intrusión enteramente autónoma. Microsoft señaló que la mayor parte del uso malicioso observado seguía concentrándose en producir texto, código o contenido multimedia, no en comprometer objetivos de principio a fin sin intervención humana. 10

Para qué se está usando la IA

Según los informes, los usos observados o atribuidos incluyen investigación y perfilado de objetivos, elaboración de contenido de spear phishing en varios idiomas, desarrollo y depuración de malware y scripts, preparación de infraestructura, resumen de datos robados y materiales para ingeniería social. 10

Lo relevante no es una sola instrucción maliciosa, sino el ciclo que puede abaratar: generar, probar, corregir y desplegar. Los casos reportados por Anthropic indican que un atacante puede pedir a un modelo que modifique o reconstruya código después de que un producto de seguridad lo detecte, y que puede emplear credenciales o claves de API comprometidas como capacidad de cómputo de bajo coste. 87

Grupos vinculados a Estados y el ejemplo de ShinyHunters

Anthropic afirmó haber interrumpido actividades de actores vinculados con Rusia, China e Irán, además de grupos con motivación financiera. Sus casos abarcaron operaciones cibernéticas, influencia, vigilancia, fraude, posible uso indebido en biología, trabajo sobre armas convencionales y extracción de capacidades de modelos. Reuters informó de una operación vinculada con Rusia dirigida contra funcionarios ucranianos y de acusaciones de uso indebido de Claude por empresas chinas de IA. Son atribuciones y estudios de caso de la compañía, no una medición de toda la actividad de amenazas. 724

En un caso separado, Microsoft atribuyó campañas de ingeniería social con señuelos sobre passkeys e inicio de sesión único (SSO) contra cuentas corporativas de Microsoft 365 a actores relacionados con ShinyHunters, Helix y otros grupos de extorsión. El patrón descrito combinaba reconocimiento previo con suplantación de soporte técnico para obtener acceso y robar datos en la nube. Ilustra un robo convencional de credenciales mejorado por una selección de víctimas más precisa y señuelos escalables, no una demostración de que la IA ejecutara por sí sola toda la intrusión. 3

Suplantación más creíble y difícil de filtrar

La IA reduce el coste de crear y renovar páginas de soporte falsas, mensajes de phishing, conversaciones de chat, voces o imágenes clonadas y versiones multilingües. Para los equipos defensivos, esto significa más volumen, personalización y variación, y por tanto menos eficacia de controles basados en plantillas conocidas o errores gramaticales evidentes. Microsoft señaló específicamente el uso de IA para generar y traducir señuelos de phishing. 10

La consecuencia es una asimetría de velocidad y escala: delincuentes y grupos con menos recursos pueden acceder a parte de la capacidad que antes exigía equipos más grandes. Eso no implica que cada ataque asistido por IA vaya a funcionar. 610

La extracción de modelos: otro frente de seguridad

Google caracterizó las consultas sistemáticas a Gemini para extraer capacidades propietarias como ataques de extracción de modelos o «destilación»: un problema de propiedad intelectual y de seguridad de capacidades, no solo de ciberdelincuencia convencional. El mecanismo consiste en sondear un modelo mediante accesos legítimos, como una API, para obtener información que pueda servir al entrenamiento de otro sistema. 11

Las fuentes públicas incluidas describen campañas de volúmenes muy elevados de solicitudes; una fuente agregada llegó a mencionar campañas que superaban los 100 millones de prompts. Esa cifra debe interpretarse con cautela: en los materiales aportados, el informe directo de Google confirma un aumento de los intentos de extracción, mientras que el dato de más de 100 millones procede de una publicación secundaria. 1113

El riesgo, en cualquier caso, es que actores intenten reproducir comportamientos útiles de modelos avanzados mediante sondeos automatizados, mientras los proveedores tratan de detectar consultas abusivas y proteger capacidades, razonamientos y salvaguardas. 118

Por qué el debate alcanza a la IA responsable

La reducción del coste marginal de redactar, localizar contenido, investigar, recibir ayuda de código y perfeccionar engaños afecta a la defensa de forma directa. Pero las cuestiones de acceso, capacidades y supervisión van más allá del phishing. El informe de Anthropic también cubrió intentos de uso indebido relacionados con investigación biológica y desarrollo de armas convencionales. Por ello, el debate incluye monitorización de abusos, controles de cuentas y API, límites de uso, detección de extracción de modelos, intercambio de información sobre incidentes y salvaguardas para ámbitos de alto impacto. 162

La principal cautela es esencial: estas publicaciones recogen casos detectados e interrumpidos. Demuestran capacidades y patrones operativos emergentes, pero no establecen por sí solas que los ataques autónomos sean ya la forma dominante de ciberdelincuencia. 7