Agent Authorization 是对 AI Agent 在特定身份、任务、资源、工具、上下文和风险条件下所能执行的操作进行动态约束与决策的安全机制。
对系统中具有业务、安全、合规或治理意义的行为进行记录、保存、分析和追溯。
输入一个安全决策请求,输出一个确定性的策略决策。
Prompt Injection 是攻击者通过构造特殊输入,使 LLM 偏离应用设计者预期的行为策略。
Risk Management(风险管理)通常被理解为金融风控、权限控制、合规审计或安全治理。但随着 Large Language Model(LLM)和 AI Agent 进入企业核心业务,风险管理正在从“规则校验系统”演变为一种覆盖模型、数据、Agent、工具、业务流程和运行环境的动态智能控制体系。
如何让一个具有自主决策能力、非确定性输出能力的模型,在拥有现实世界执行权限的情况下,只做它被允许做的事情?