Investigadores alertan que los marcos de agentes carecen de observabilidad en tiempo real para la seguridad
Un estudio de investigadores, entre ellos Madhulika Srikumar, concluye que los marcos de agentes ampliamente usados no emiten IDs persistentes ni registros de aprobación humana, lo que complica el monitoreo en tiempo real, como han mostrado incidentes con OpenAI y otras empresas. Los autores sostienen que estas deficiencias pueden cerrarse registrando tanto “qué ocurrió” como “cómo decidió el agente”, y señalan a OpenTelemetry y el trabajo del NIST como posibles vías a seguir.
PERSPECTIVA DE IA DE BONES
Resumen elaborado con IA a partir de la fuente enlazadaInvestigaciones recientes acompañadas por Madhulika Srikumar documentan brechas importantes de observabilidad en cuatro marcos populares de agentes: faltan IDs persistentes y registros de intervenciones humanas, lo que dificulta detectar acciones no autorizadas. El estudio relaciona esas brechas con incidentes reales que involucran agentes de OpenAI y urge usar estándares (OpenTelemetry) y coordinarse con organismos reguladores como NIST para capturar tanto los registros de acción como los de decisiones necesarios para auditorías y supervisión.