Renuncia por falta de garantías
Jacob Coxon, exinvestigador de OpenAI y Anthropic, renunció a Anthropic tras advertir que las principales empresas de inteligencia artificial avanzan hacia una superinteligencia automejorable sin garantías suficientes de control. Coxon acusó a la industria de “apostar con nuestras vidas” al acelerar el desarrollo de sistemas que podrían superar la capacidad humana sin contar todavía con una solución clara al problema de alineación.
El caso encendió de nuevo el debate sobre seguridad en IA porque Coxon no es un crítico externo, sino alguien que trabajó dentro de dos de las empresas más importantes del sector. Su salida fue leída como una alerta desde el interior de la carrera por modelos cada vez más poderosos.
Más de 10% de riesgo, según especialista
La preocupación aumentó después de que Evan Hubinger, investigador senior de Anthropic especializado en alineación, estimó en más de 10% la probabilidad de que una IA avanzada pueda “matar a todos los humanos” en la próxima década. La declaración fue retomada por medios internacionales y colocó el debate en términos extremos: no sólo mal uso de IA, sino pérdida de control sobre sistemas superinteligentes.
The Verge reportó que la advertencia llegó pocas horas después de la renuncia de Coxon, quien sostuvo que Anthropic y OpenAI no están actuando con suficiente responsabilidad frente a los riesgos de sistemas superhumanos.
El problema de alineación
La alineación busca asegurar que una IA avanzada actúe conforme a valores, límites e instrucciones humanas. El riesgo señalado por estos investigadores es que una superinteligencia capaz de mejorar por sí misma podría desarrollar estrategias, objetivos o conductas imposibles de controlar si se despliega antes de entender cómo contenerla.
Otros especialistas han advertido escenarios menos cinematográficos, pero también graves: pérdida de control institucional, dependencia extrema de sistemas automatizados, ciberataques, manipulación social, diseño de armas o concentración de poder en pocas empresas y gobiernos.
Ven conmigo si quieres vivir
La advertencia no significa que el fin del mundo sea inevitable, pero sí que incluso expertos dentro de la industria creen que la carrera actual va demasiado rápido y con demasiada poca supervisión.
El debate ya no es si la IA puede escribir, programar o responder preguntas. La discusión más seria es quién controla sistemas capaces de superar a sus creadores, qué pasa si dejan de obedecer y por qué se sigue corriendo hacia la superinteligencia sin una forma comprobada de apagarla.
Del otro lado de la frontera —y también del planeta— siempre hay algo que puede cambiar la conversación. Sigue a Ale Díaz de la Vega en El Daily Diario y recorre las noticias, personajes y acontecimientos que están dando forma al mundo. Entra aquí y que ninguna historia te agarre fuera de contexto.
