全部文章/Agent
正文 + 目录
演示内容Agent工具调用安全工程实践

工具调用的边界,应该由谁定义?

格式正确的参数未必意味着操作正确。把模型建议、业务校验和实际执行分开设计。

内容说明:这是用于演示网站排版与内容组织的示例文章。请在正式对外分享前替换为自己的实验、结论与来源。

Schema 只是第一道检查

类型检查回答参数是否符合结构。业务校验还需要回答:当前用户是否有权限、时间范围是否合理、请求是否可能造成副作用。

将建议与执行分开

模型可以提出动作,服务端负责决定这个动作是否被允许。

tool-contract.json
{
  "tool": "query_metrics",
  "parameters": {"metric": "active_users", "days": 7},
  "policy": {"read_only": true, "max_rows": 1000}
}

失败也属于工作流

权限不足、工具超时和数据不完整应分别处理。不可恢复的错误应停止并说明原因;可恢复错误需要有次数和时间上限。

END OF NOTE

记录到这里,实践还在继续。

最近更新于 2026年11月5日

交流与讨论

让新的理解,从讨论开始。
正在加载讨论…

仅展示已审核的公开评论。新提交的评论不会立即出现在列表中。