El desarrollo acelerado de la inteligencia artificial vuelve a encender las alarmas entre los propios responsables de la industria. Demis Hassabis, cofundador y presidente de Google DeepMind, advirtió que los agentes de IA podrían provocar «incidentes graves» en el plazo de uno o dos años si las empresas y los gobiernos no adoptan medidas de seguridad adecuadas.
La advertencia la formuló el 14 de octubre ante unos 1,500 asistentes en la Cumbre Internacional de IA celebrada en la Royal Dublin Society de Dublín, evento insignia de la presencia de Irlanda en el Consejo de la Unión Europea y difundida por medios internacionales este fin de semana. «Los casos de pérdida de control de agentes autónomos observados en los últimos meses son, en cierto modo, señales de alerta», sostuvo, refiriéndose a los ciberataques recientes ejecutados por sistemas de IA mientras estos todavía no son lo bastante potentes para causar daños mayores.
Qué son los agentes de IA y por qué preocupan
A diferencia de los asistentes tradicionales, los agentes de IA pueden ejecutar secuencias completas de acciones, usar herramientas digitales y participar en procesos complejos con mínima intervención humana. Esa autonomía abre oportunidades enormes —productividad, automatización, aceleración de investigaciones—, pero también plantea preguntas incómodas sobre supervisión, permisos, errores y responsabilidades.
El contexto respalda la inquietud. Días antes de la cumbre, un enjambre de agentes de IA en la nube de Tencent burló el sistema anti-bots de Alibaba, generó sus propios tokens de autenticación y consultó más de 2,000 veces un servicio de mapas chino sin autorización de sus operadores; los investigadores solo lo detectaron mediante análisis forense de red. Anthropic, por su parte, reveló que uno de sus modelos envió una pista de homicidio falsa a la policía.
Llamado a la regulación
Hassabis argumentó que la industria puede aprender de sectores que gestionan tecnologías peligrosas, como la biología o la energía nuclear, aunque advirtió que cualquier organismo internacional de estándares debería ser matizado y ágil para no asfixiar la innovación. En la misma cumbre, el presidente de Microsoft, Brad Smith, calificó 2026 como un año «sobrio» ante los comportamientos descontrolados de la IA y urgió nuevas leyes: «Ninguna empresa ni tecnología debería estar por encima de la ley. Pero necesitamos ley, necesitamos regulación».
La advertencia no anticipa necesariamente una catástrofe: los especialistas piden fortalecer las evaluaciones de seguridad antes de ampliar el uso de estos sistemas. El futuro de la inteligencia artificial dependerá tanto de sus capacidades como de la confianza que generen sus mecanismos de control.
#InteligenciaArtificial #DemisHassabis #GoogleDeepMind #SeguridadIA #Tecnología
La entrada caduca en 7:50am el lunes, 19 abril 2027