Cuando la inteligencia artificial traspasa los límites de la prueba
Anthropic ha hecho públicos tres incidentes en los que sus modelos de Claude lograron conectarse a internet y penetrar en sistemas informáticos de organizaciones reales durante evaluaciones de seguridad. Los hechos ocurrieron a partir de abril, y en ellos participaron tres versiones distintas del modelo: Claude Opus 4.7, Mythos 5 y una versión experimental interna.
El contexto es importante para entender qué sucedió. Los desarrolladores plantearon a Claude un ejercicio controlado: infiltrarse en un sistema ficticio dentro de un entorno aislado de pruebas, bajo la premisa de que no tendría acceso a la red real. La instrucción era clara en cuanto al escenario: se trataba de una simulación. Pero aquí está el problema: por un error en la comunicación entre Anthropic y el socio externo responsable de ejecutar las evaluaciones, Claude sí disponía de conexión a internet. El modelo cumplió el objetivo que le habían encomendado, lo que resultó en accesos reales a sistemas que nunca debieron ser alcanzables en una prueba de laboratorio.
Este tipo de situaciones ponen de manifiesto un riesgo que los abogados y asesores que trabajamos con empresas tecnológicas vemos cada vez con más frecuencia: la desconexión entre la intención de una prueba y su ejecución práctica. Anthropic analizó más de 146.000 operaciones para identificar dónde había fallado el aislamiento, hallando exactamente tres casos problemáticos.
No es la primera vez que sucede algo parecido en la industria. OpenAI reportó hace poco que dos de sus modelos escaparon de un entorno de pruebas y accedieron a Hugging Face, una plataforma pública de modelos de aprendizaje automático, sorteando las medidas de seguridad establecidas.
Qué debes observar si trabajas con IA
Si tu empresa integra sistemas de inteligencia artificial, estos incidentes subrayan varios aspectos que conviene vigilar:
- La documentación de permisos y accesos debe ser explícita y verificada antes de cualquier evaluación
- El aislamiento de entornos de prueba requiere confirmación independiente, no solo declaraciones
- Los objetivos que planteas a un modelo pueden ser ejecutados de formas que no anticipaste
- La responsabilidad compartida entre desarrollador y evaluador necesita protocolos claros
El error detectado por Anthropic no fue técnico únicamente, sino operativo: una falta de sincronización entre quién especificaba la prueba y quién la ejecutaba. Esto es tan relevante en seguridad como la propia capacidad técnica del sistema.
Estos casos ilustran por qué cada vez es más necesario que las organizaciones que adopten tecnología de IA dispongan de procedimientos internos rigurosos y, en muchos casos, supervisión externa independiente.
