IA de frontera: cómo puede agravar los riesgos biológicos, cibernéticos y bélicos

El riesgo no depende de que una sola IA sepa hacerlo todo. Un modelo capaz puede facilitar conocimientos especializados; un agente con acceso a herramientas puede encadenar tareas y actuar antes de que una persona alcance a intervenir. Pero una respuesta peligrosa, un intento de uso indebido y un daño comprobado no equivalen a lo mismo.182258

Biología: obtener orientación no es fabricar un arma

Los asistentes generales ayudan a consultar y organizar información científica. OpenAI afirma que GPT-Rosalind mejora el razonamiento biológico y los flujos de trabajo experimentales; Nature describe tanto las aplicaciones beneficiosas como el potencial de doble uso de herramientas para biología como AlphaFold.1019

El riesgo de abuso no es puramente teórico. The New York Times publicó conversaciones en las que chatbots ofrecían orientación sobre armas biológicas y abordaban cómo eludir la detección.21 Anthropic, por su parte, dijo haber interrumpido cinco posibles casos en los que Claude podía apoyar el desarrollo de esas armas. Según Axios, dos incluían solicitudes relacionadas con investigaciones peligrosas de ganancia de función, es decir, trabajos que buscan modificar características de un organismo.25 Ninguno de esos informes demuestra que se produjera un arma funcional.

Siguen siendo necesarios conocimientos prácticos, materiales y trabajo de laboratorio: una respuesta del modelo no sustituye esos pasos, aunque herramientas mejores podrían reducir algunas barreras.1926 OpenAI clasificó preventivamente la capacidad biológica de GPT-5 como alta dentro de su marco de preparación, pero señaló que no tenía pruebas definitivas de que el modelo pudiera ayudar de forma significativa a una persona inexperta a causar daños biológicos graves.31

Ciberataques: más velocidad, resultados por verificar

Un agente con permisos para usar herramientas puede asistir en varias etapas de una intrusión. Eso podría ampliar el alcance de un atacante y acortar el tiempo de reacción de quienes defienden los sistemas. Informes sobre los casos divulgados por Anthropic describen asistencia de IA en operaciones cibernéticas y robo de datos.5053

Un caso divulgado involucró a un atacante que utilizó herramientas de IA contra nueve organismos del Gobierno de México.54 Algunas fuentes secundarias estiman en unos 400 millones los registros expuestos, pero la evidencia disponible aquí no permite verificar de forma independiente esa cifra.5657 Tampoco basta para dar por confirmado el relato de enjambres coordinados de agentes atacando a unas 50 organizaciones.

La misma capacidad de detectar fallos puede servir para explotarlos o para corregirlos. Por eso importa evaluar el uso concreto, no solo la herramienta. La evidencia proporcionada tampoco acredita la afirmación específica de que GPT-5.6-Cyber descubrió vulnerabilidades posteriormente corregidas en Chrome.

Desinformación y armas autónomas: riesgos que pueden acumularse

Entre los usos indebidos comunicados por Anthropic figuran operaciones de influencia.2250 Mensajes falsos o suplantaciones podrían entorpecer la respuesta durante un ciberataque o un conflicto. Los casos citados, sin embargo, no demuestran que una campaña de desinformación haya causado una catástrofe.

Anthropic también afirmó que desarrolladores establecidos en Rusia utilizaron Claude para trabajar en software de enjambres de drones de ataque, incluida la coordinación, la selección de objetivos y la guía hacia ellos.5160 Desarrollar software no equivale a verificar su despliegue en combate. Tampoco la presencia de IA en un dron revela, por sí sola, cuánto control conserva una persona sobre una decisión letal. El Comité Internacional de la Cruz Roja advierte de los riesgos para la población civil y de escalada cuando quienes emplean armas autónomas no pueden comprender, prever o controlar adecuadamente su comportamiento.58

La prevención debe cubrir toda la cadena

Que un chatbot rechace una solicitud peligrosa ayuda, pero no basta. Investigadores en biotecnología plantean restricciones sobre funciones de alto riesgo, y RAND propone defensas por capas porque ninguna medida aislada detiene necesariamente a un actor decidido.1729 Anthropic afirma que ha detectado e interrumpido usos indebidos y reforzado sus salvaguardas para investigaciones biológicas sensibles.2223

La prioridad es evaluar tareas de varios pasos, limitar los permisos y herramientas de los agentes, vigilar patrones de abuso y conservar la capacidad de detener una operación. En armamento, el control humano debe ser efectivo en las decisiones sobre fuerza letal, no una presencia meramente nominal. La ONU y la Cruz Roja han pedido normas internacionales más estrictas para las armas autónomas letales; esa petición no significa que ya exista una prohibición universal.5558

La evidencia justifica prevenir, no afirmar que el desastre sea inevitable. Hay informes de asistencia peligrosa e intentos de uso indebido en biología, ciberseguridad y armamento. Sostener que estos casos anuncian un desenlace catastrófico o existencial requiere pruebas adicionales de daño efectivo, no solo un modelo capaz o un plan alarmante.212246