AWS ha publicado un enfoque denominado Trust in Depth para aumentar la autonomía de agentes sin depender de que una persona apruebe cada acción. La idea central es colocar los límites fuera del propio razonamiento del agente.
Scope, know, bound y observe
El marco plantea cuatro preguntas: qué puede hacer el agente, qué debe saber, qué límites no puede cruzar y cómo se observa su comportamiento. AWS sitúa parte de estos controles en políticas de Amazon Bedrock AgentCore aplicadas en el gateway.
Por qué importa
Si el control está dentro del prompt, el agente participa en la misma capa que debe vigilar. Separar política y ejecución reduce la posibilidad de que una instrucción inesperada cambie restricciones críticas.
Fuente: AWS.
Qué debería revisar una empresa
La adopción exige revisar permisos cloud, autenticación, inventario SaaS, continuidad, recuperación y coste de IA.
Fotografía: Pavel Danilyuk / Pexels.
