Hy4 fue desarrollado con límites en su entrenamiento
La empresa china Tencent presentó este miércoles 4 de noviembre Hy4, un modelo de inteligencia artificial diseñado para realizar tareas de programación, análisis y otras aplicaciones informáticas, con restricciones destinadas a reducir riesgos de uso indebido.
La compañía explicó que limitó determinados materiales relacionados con ciberseguridad durante el entrenamiento.
Su objetivo declarado fue conservar capacidades útiles para tareas defensivas sin incorporar información que facilitara directamente la construcción de herramientas ofensivas.
La empresa busca reducir riesgos de uso indebido
Los sistemas de inteligencia artificial pueden ayudar a revisar código, identificar vulnerabilidades y proponer correcciones de software.
Sin embargo, algunas de estas capacidades también podrían utilizarse para desarrollar ataques cuando no existen controles adecuados.
Tencent sostiene que el diseño de Hy4 busca reducir esos riesgos sin eliminar funciones útiles para especialistas defensivos.
La efectividad de esa separación depende tanto de los materiales utilizados durante el entrenamiento como de las pruebas realizadas posteriormente.
Las pruebas internas todavía requieren contraste
Según la compañía, sus evaluaciones no encontraron un incremento significativo de la capacidad del modelo para desarrollar ciberataques o eludir protecciones en las áreas examinadas.
Estas conclusiones proceden de pruebas realizadas por el propio desarrollador, por lo que deben distinguirse de verificaciones independientes.
El comportamiento de un modelo puede cambiar dependiendo de las instrucciones recibidas, las herramientas disponibles y el entorno donde se utiliza.
Tencent prepara una distribución más amplia
La empresa anunció planes para publicar los parámetros del sistema junto con documentación técnica y resultados de sus evaluaciones de seguridad.
Esta disponibilidad permitiría realizar nuevos análisis, aunque también plantea retos para controlar aplicaciones posteriores.
El lanzamiento refleja una preocupación creciente dentro de la industria: desarrollar herramientas útiles para proteger sistemas sin ampliar innecesariamente las capacidades disponibles para atacarlos.
El alcance real de las restricciones de Hy4 deberá evaluarse mediante pruebas independientes.
Siempre hay algo nuevo zumbando en Abejorro Media. Información, análisis, entretenimiento y esas historias que vale la pena conocer tienen un lugar en nuestra programación. Entra aquí para descubrir nuestros contenidos y acompáñanos todos los días.
Y si quieres seguir explorando, visita nuestra página de Abejorro Media y date una vuelta por todo lo que tenemos para ti: Noticias, Humor político, Espectáculos, Deportes, Finanzas y Tecnología. 🐝
