Amodei ya no pide solamente mejores pruebas
Dario Amodei, director ejecutivo de Anthropic, propuso reducir deliberadamente la velocidad con que avanzan los modelos de frontera para que las medidas de seguridad puedan alcanzarlos.
Su planteamiento del 12 de septiembre se diferencia de advertencias anteriores porque incluye una acción concreta que Anthropic dice estar dispuesta a adoptar: permitir evaluadores externos permanentes dentro de la compañía.
Los evaluadores tendrían acceso parecido al de empleados
La propuesta contempla equipos independientes con escritorios, credenciales, computadoras y acceso continuo a herramientas y procesos comparables a los utilizados por los grupos internos de evaluación.
Amodei plantea que esos revisores puedan examinar no sólo modelos terminados, sino también entrenamiento, incidentes y salvaguardas, además de publicar conclusiones sin que Anthropic tenga control editorial sobre resultados desfavorables.
La idea es ligar capacidades con requisitos de seguridad
Otro componente consiste en establecer puntos de control: si un modelo alcanza determinada capacidad peligrosa, tendría que demostrar propiedades de seguridad específicas antes de seguir avanzando.
Amodei utiliza como ejemplo un sistema capaz de superar mecanismos habituales de aislamiento informático, que debería demostrar mediante pruebas, auditorías e interpretabilidad una probabilidad suficientemente baja de escapar y comprometer otras máquinas.
El respaldo todavía no crea una regla común
Sam Altman y Elon Musk respaldaron públicamente la necesidad de moderar el ritmo, pero ninguna declaración crea por sí misma límites obligatorios para la industria.
Tampoco existe consenso científico sobre probabilidades concretas de una catástrofe: las estimaciones de riesgo utilizadas por investigadores y directivos son opiniones técnicas sujetas a gran incertidumbre; el cambio verificable, por ahora, es que una empresa está ofreciendo abrir parte de sus procesos internos a vigilancia externa permanente.
Siempre hay algo nuevo zumbando en Abejorro Media. Información, análisis, entretenimiento y esas historias que vale la pena conocer tienen un lugar en nuestra programación. Entra aquí para descubrir nuestros contenidos y acompáñanos todos los días.
Y si quieres seguir explorando, visita nuestra página de Abejorro Media y date una vuelta por todo lo que tenemos para ti: Noticias, Humor político, Espectáculos, Deportes, Finanzas y Tecnología. 🐝
