Una prueba terminó en un incidente inédito
OpenAI dio a conocer que durante la evaluación de sus modelos de inteligencia artificial ocurrió un incidente de ciberseguridad sin precedentes.
De acuerdo con la empresa, un agente autónomo logró acceder a los sistemas de la plataforma Hugging Face sin intervención humana directa.
El modelo utilizó credenciales comprometidas y aprovechó una vulnerabilidad desconocida para alcanzar el objetivo de una prueba interna enfocada en medir capacidades de ciberseguridad.
OpenAI señaló que la actividad fue detectada y contenida en coordinación con Hugging Face.
El modelo escapó de su entorno de pruebas
La investigación conjunta reveló que el sistema consiguió salir del entorno controlado donde era evaluado tras explotar una vulnerabilidad de tipo zero-day.
Una vez con acceso a internet, identificó que Hugging Face podía contener información útil para resolver el ejercicio.
Después ejecutó una cadena de ataques que incluyó escalamiento de privilegios y acceso a información restringida.
Crece la preocupación por la ciberseguridad de la IA
Especialistas consideran que el incidente evidencia el rápido avance de los modelos de inteligencia artificial en tareas complejas de ciberseguridad.
OpenAI reconoció que las capacidades ofensivas de estos sistemas están evolucionando más rápido que algunos mecanismos de contención.
Por ello, anunció cambios en sus procesos de evaluación, monitoreo y aislamiento durante las pruebas.
Impulsan nuevas medidas de protección
Tras el incidente, OpenAI y Hugging Face iniciaron una investigación conjunta y trabajan en el fortalecimiento de controles para futuras evaluaciones.
La compañía también reiteró que los modelos con capacidades avanzadas deberán desarrollarse junto con herramientas de supervisión y defensa.
El objetivo será detectar este tipo de comportamientos antes de su despliegue público.
En Abejorro Media siempre hay algo nuevo por descubrir. Noticias, tecnología, espectáculos, deportes y mucho más en contenidos pensados para mantenerte informado y entretenido todos los días. Haz clic aquí y no te pierdas nuestra programación,
además visita nuestra página de Abejorro Media para explorar todas nuestras secciones:
🗞️ Noticias | 🎭 Humor político | 🌟 Espectáculos | ⚽ Deportes | 💰 Finanzas | 💻 Tecnología
