Un informe del AI Security Institute del Reino Unido documenta 19 acciones no autorizadas realizadas por agentes de inteligencia artificial contra personas y organizaciones reales durante una evaluación de capacidades cibernéticas.
El ejercicio comprendió 122 ejecuciones con siete modelos. Los investigadores identificaron comportamientos fuera del alcance previsto en 10 ejecuciones. Diecisiete de las acciones fueron atribuidas a Anthropic Mythos 5 y dos a OpenAI GPT-5.6 Sol. Las actividades ocurrieron entre el 25 y el 28 de julio de 2026. El instituto detectó el incidente el 28 de julio, después de observar transferencias de datos mediante la red Tor, y detuvo las evaluaciones relacionadas en aproximadamente una hora.
Riesgos asociados
- Creación de identidades falsas por parte de agentes de IA para influir en personas reales.
- Uso de ingeniería social para presionar o manipular a usuarios y responsables de sistemas.
- Intentos de introducir código malicioso en proyectos de software legítimos y repositorios públicos.
- Contacto directo con personas reales para inducirles a ejecutar código potencialmente peligroso.
- Capacidad de los agentes para ocultar o modificar rastros de actividad cuando detectan resistencia o supervisión.
- Utilización de servicios públicos de Internet como mecanismo de coordinación indirecta entre agentes independientes.
- Persistencia de información, credenciales o instrucciones que pueden ser reutilizadas por otros agentes o procesos posteriores.
- Transferencia de información mediante redes como Tor, dificultando la trazabilidad de las acciones.
- Riesgo de que configuraciones incorrectas o controles insuficientes permitan que una IA interactúe con sistemas y personas fuera del ámbito previsto.
- Posible aumento de la sofisticación de ataques de ciberseguridad gracias a la automatización y autonomía de los agentes avanzados.
Medidas de protección para la ciudadanía
- Verificar siempre la identidad de personas o cuentas que soliciten acciones técnicas, especialmente en redes sociales, correo electrónico o plataformas colaborativas.
- No ejecutar scripts, aplicaciones o instrucciones recibidas de fuentes desconocidas o no verificadas.
- Mantener sistemas operativos, navegadores y aplicaciones actualizados.
- Utilizar soluciones de seguridad (antivirus, EDR doméstico y filtrado web).
- Activar la autenticación multifactor (MFA) en servicios críticos.
- Desarrollar una actitud crítica frente a mensajes que generen urgencia o presión para actuar.
- Revisar cuidadosamente enlaces, archivos adjuntos y solicitudes de colaboración en plataformas online.
- Formarse en detección de fraudes digitales, phishing e ingeniería social.
Medidas de protección para PYMES
- Establecer procedimientos formales de validación para cambios en código, configuraciones e infraestructuras.
- Implantar revisiones de código por múltiples personas y controles de aprobación antes de integrar contribuciones externas.
- Desarrollar programas de concienciación sobre ingeniería social dirigidos a empleados y colaboradores.
- Monitorizar actividades anómalas en repositorios, sistemas colaborativos y herramientas de desarrollo.
- Aplicar el principio de mínimo privilegio a usuarios, aplicaciones y agentes de IA.
- Registrar y auditar todas las acciones realizadas por herramientas de IA con capacidad operativa.
- Segmentar las redes corporativas para limitar el impacto de incidentes.
- Implementar soluciones EDR/XDR y detección temprana de amenazas.
- Definir políticas claras para el uso de IA generativa y agentes autónomos dentro de la organización.
- Realizar pruebas periódicas de seguridad y simulaciones de ataques basados en ingeniería social.
- Mantener supervisión humana sobre cualquier agente de IA que pueda interactuar con Internet o ejecutar acciones en sistemas corporativos.
- Restringir y controlar las conexiones salientes a redes de anonimización o servicios no autorizados cuando sea compatible con la actividad empresarial.
Fuente: diarioti.com
