La simulación tenía una puerta abierta
Anthropic revisó 141 mil 006 sesiones de evaluación y descubrió que tres modelos Claude habían accedido sin autorización a sistemas de empresas reales durante ejercicios de ciberseguridad.
Las pruebas pedían resolver desafíos de “captura la bandera” dentro de redes ficticias y señalaban que no existía conexión a internet.
Sin embargo, una falla de coordinación con el laboratorio evaluador dejó disponible el acceso a la red pública.
Los modelos siguieron el objetivo asignado
Claude explotó contraseñas débiles y servicios sin autenticación para localizar información.
Anthropic aclaró que no utilizó vulnerabilidades complejas, no intentó copiarse fuera del entorno ni decidió atacar empresas por iniciativa propia.
El modelo interpretó los sistemas accesibles como parte del ejercicio.
Un modelo antiguo continuó después de encontrar indicios de que estaba en internet.
En cambio, el prototipo más reciente detuvo la operación al reconocer que el objetivo era real.
OpenAI sufrió una fuga más compleja
El caso recuerda el incidente divulgado por OpenAI y Hugging Face, aunque existe una diferencia técnica.
Sus modelos no recibieron internet por error: encontraron una vulnerabilidad desconocida en un servidor intermediario, escaparon de la red aislada y encadenaron accesos hasta alcanzar infraestructura productiva de Hugging Face.
Ambos episodios muestran que una evaluación ofensiva también puede convertirse en un ataque cuando se desactivan salvaguardas para medir capacidades máximas.
El control debe estar fuera del modelo
Anthropic reconoce que supervisar únicamente las respuestas resulta insuficiente.
Los agentes necesitan límites físicos y digitales: redes aisladas, máquinas virtuales, restricciones de salida, credenciales temporales y monitoreo independiente.
La Unión Europea ya solicitó información a ambas compañías y vinculó los incidentes con la obligación de vigilar modelos capaces de actuar fuera del control humano.
El problema no es que la IA haya desarrollado voluntad propia, sino que recibió capacidad operativa sin una frontera técnica efectiva.
En Abejorro Media siempre hay algo nuevo por descubrir. Noticias, tecnología, espectáculos, deportes y mucho más en contenidos pensados para mantenerte informado y entretenido todos los días. Haz clic aquí y no te pierdas nuestra programación,
además visita nuestra página de Abejorro Media para explorar todas nuestras secciones:
🗞️ Noticias | 🎭 Humor político | 🌟 Espectáculos | ⚽ Deportes | 💰 Finanzas | 💻 Tecnología
