07. 工具调用越权应该怎么防护?

整理 Agent 调工具时的权限和边界控制。

简单回答

核心原则是模型永远不能直接拥有真实业务权限,它只能发起意图,最终执行权仍应掌握在受控系统里。

详细解析

  • 所有工具都要有显式 schema、权限校验和调用白名单。
  • 敏感工具要结合用户身份、会话上下文和业务规则做动态授权。
  • 高风险操作应加人工确认、审批流或双重验证。
  • 同时必须记录审计日志,便于追踪和复盘。

面试时可以这样答

这题回答时,最重要的是体现“模型不是最终执行者”这个原则。

常见追问

  • 只做 schema 校验够吗?
  • 读权限和写权限为什么要分开?