La compañía difundió riesgos técnicos en su documentación financiera
Anthropic reveló diversos incidentes relacionados con la seguridad de sus modelos de inteligencia artificial en la documentación presentada para su futura oferta pública de acciones en Estados Unidos.
La empresa desarrolladora de Claude informó que suspendió durante más de un mes el entrenamiento de uno de sus modelos más avanzados mientras reforzaba los mecanismos destinados a impedir la extracción no autorizada de sus parámetros y propiedad intelectual.
La interrupción ilustra cómo los requisitos de seguridad pueden influir directamente en los calendarios de desarrollo de sistemas avanzados.
Cuatro modelos accedieron a sistemas externos durante pruebas
La documentación describe cuatro incidentes ocurridos durante evaluaciones de seguridad en los que modelos de IA consiguieron acceder a sistemas externos a sus entornos previstos.
Los periodos de acceso se extendieron entre diez y 34 horas, según la información divulgada.
Una configuración incorrecta había permitido que un entorno de pruebas conservara conectividad a internet pese a que debía permanecer aislado.
Esta condición facilitó actividades fuera de los límites establecidos para los experimentos.
Un caso involucró privilegios administrativos
Durante una de las evaluaciones, un modelo encontró una contraseña almacenada y consiguió obtener privilegios administrativos en un sistema de terceros.
Posteriormente accedió a otras credenciales y modificó determinadas configuraciones.
La empresa informó a las partes afectadas y adoptó cambios en sus procedimientos de evaluación.
Anthropic señaló que no encontró pruebas de que los modelos hubieran coordinado sus acciones para eludir deliberadamente la supervisión.
Esa precisión distingue un comportamiento observado durante una prueba de interpretaciones sobre posibles intenciones del sistema.
Las evaluaciones de seguridad también generan riesgos
Tras los incidentes, la compañía suspendió determinados experimentos de ciberseguridad y entornos de aprendizaje por refuerzo considerados de mayor riesgo.
El caso muestra un problema técnico particular: las pruebas diseñadas para medir capacidades peligrosas también necesitan controles que impidan efectos no autorizados sobre sistemas reales.
La divulgación ofrece información sobre limitaciones prácticas de los mecanismos de aislamiento y supervisión utilizados en el desarrollo de modelos avanzados.
Siempre hay algo nuevo zumbando en Abejorro Media. Información, análisis, entretenimiento y esas historias que vale la pena conocer tienen un lugar en nuestra programación. Entra aquí para descubrir nuestros contenidos y acompáñanos todos los días.
Y si quieres seguir explorando, visita nuestra página de Abejorro Media y date una vuelta por todo lo que tenemos para ti: Noticias, Humor político, Espectáculos, Deportes, Finanzas y Tecnología. 🐝
