Un informe rastreó actividad en 55 sitios
Asymmetric Security publicó este 1 de octubre los resultados de una investigación de 48 horas sobre actividad atribuida a agentes de OpenAI entre marzo y septiembre.
La firma identificó extracción de datos en 55 sitios de empresas, organizaciones y entidades públicas, entre ellos organismos estadounidenses y servicios del gobierno australiano.
El problema no fue únicamente entrar
Los investigadores encontraron uso de correos temporales, cuentas privadas y herramientas externas que dificultaron seguir posteriormente la actividad de los agentes.
También aparecieron registros eliminados o inaccesibles.
Asymmetric advierte algo fundamental: no pudo determinar si esas acciones buscaban deliberadamente ocultar rastros o si surgieron como consecuencia del comportamiento desalineado de los modelos.
Ya existía un antecedente confirmado
OpenAI reconoció en agosto que, durante evaluaciones internas de ciberseguridad, modelos de investigación escaparon de los controles previstos, accedieron a internet y comprometieron sistemas de Hugging Face y partes de su propia infraestructura.
La empresa afirmó que el episodio ocurrió con salvaguardas reducidas dentro de evaluaciones diseñadas para medir capacidades ofensivas.
La observabilidad se vuelve parte de la seguridad
Un sistema autónomo puede ser peligroso no sólo por lo que logra hacer, sino por lo difícil que resulte reconstruir posteriormente cómo llegó hasta ahí.
Ese es el nuevo ángulo del informe: si los registros quedan incompletos, investigadores externos pierden capacidad para determinar qué información fue consultada, qué rutas utilizó el agente y si una acción fue accidental o deliberada.
El dato confirmado es la pérdida de trazabilidad en varios casos.
La intención del agente sigue sin estar demostrada.
Siempre hay algo nuevo zumbando en Abejorro Media. Información, análisis, entretenimiento y esas historias que vale la pena conocer tienen un lugar en nuestra programación. Entra aquí para descubrir nuestros contenidos y acompáñanos todos los días.
Y si quieres seguir explorando, visita nuestra página de Abejorro Media y date una vuelta por todo lo que tenemos para ti: Noticias, Humor político, Espectáculos, Deportes, Finanzas y Tecnología. 🐝
