El problema ya no se limita al contenido que aparece en pantalla

Tom Siegel, fundador del equipo de confianza y seguridad de Google, advirtió que la inteligencia artificial puede repetir y ampliar errores que las plataformas sociales cometieron con menores.

Su planteamiento incluye riesgos asociados con contenido dañino, dependencia emocional y lo que denomina “descarga cognitiva”: delegar tanto pensamiento en una herramienta que disminuya el esfuerzo crítico del usuario.

Se trata de una advertencia de Siegel, no de una conclusión científica de que la IA ya cause más daño que las redes sociales.

La propuesta es medir productos antes de confiar en ellos

Siegel acaba de asumir la dirección del Youth AI Safety Institute de Common Sense Media.

El organismo pretende desarrollar evaluaciones abiertas e independientes para productos utilizados por niños y adolescentes.

Su modelo declarado son las pruebas de choque de los automóviles: establecer criterios comunes y comparar cómo responde cada sistema ante escenarios de riesgo.

Verificar edad sería apenas una primera barrera

Entre las medidas inmediatas que Siegel plantea están controles de edad más estrictos y opciones para limitar ciertas funciones de IA.

Eso no resuelve por sí solo el problema técnico.

Un chatbot puede producir respuestas muy distintas según contexto, conversación previa y formulación de una pregunta, lo que vuelve más difícil certificar seguridad que en una plataforma con contenido estático.

La auditoría externa intenta cambiar quién califica a la IA

Actualmente las propias compañías publican buena parte de sus evaluaciones de seguridad.

El nuevo instituto quiere introducir pruebas realizadas fuera de los laboratorios que construyen los modelos.

Common Sense ya ha evaluado productos de OpenAI, Google, Meta y otras empresas y afirma haber encontrado riesgos considerados inaceptables para menores.

Esa clasificación corresponde al organismo.

La apuesta ahora es convertir esas pruebas aisladas en un estándar comparable antes de que los niños sean quienes descubran los fallos en uso real.