El riesgo existencial es una advertencia
Volker Türk, alto comisionado de Naciones Unidas para los Derechos Humanos, advirtió ante el Consejo de Derechos Humanos que sistemas avanzados de inteligencia artificial podrían llegar a representar un riesgo existencial si su capacidad aumenta sin controles suficientes.
Su declaración no significa que Naciones Unidas haya determinado científicamente que ese escenario vaya a ocurrir; plantea un riesgo potencial y pide actuar antes de que sistemas difíciles de controlar alcancen mayor autonomía.
La propuesta central es verificar desde fuera
Türk pidió reglas vinculantes, límites acordados entre países y verificación independiente, además de mayor cooperación de seguridad entre empresas.
El énfasis en supervisión externa es relevante porque una compañía que desarrolla un modelo también evalúa buena parte de sus riesgos, mientras los sistemas más avanzados son técnicamente complejos y no siempre pueden ser auditados de manera completa por terceros.
La seguridad va más allá de impedir una fuga
El funcionario mencionó escenarios como sistemas que salen de entornos de prueba o intentan evitar ser apagados, pero amplió el problema hacia empleo, democracia, concentración de datos y medio ambiente.
Esa diferencia importa porque la gobernanza de IA no se limita a prevenir una hipotética pérdida total de control: también abarca daños más inmediatos producidos por decisiones automatizadas y por la concentración de infraestructura tecnológica en pocas compañías.
Las armas autónomas añaden una frontera distinta
Türk expresó además preocupación por sistemas capaces de seleccionar o atacar objetivos sin intervención humana suficiente, un ámbito donde un error algorítmico puede producir consecuencias irreversibles.
La discusión tecnológica queda así dividida entre riesgos presentes y escenarios extremos: ambos requieren mecanismos de prueba y responsabilidad, pero no deben mezclarse como si existiera evidencia equivalente sobre su probabilidad o alcance.
Siempre hay algo nuevo zumbando en Abejorro Media. Información, análisis, entretenimiento y esas historias que vale la pena conocer tienen un lugar en nuestra programación. Entra aquí para descubrir nuestros contenidos y acompáñanos todos los días.
Y si quieres seguir explorando, visita nuestra página de Abejorro Media y date una vuelta por todo lo que tenemos para ti: Noticias, Humor político, Espectáculos, Deportes, Finanzas y Tecnología. 🐝
