最佳实践
设计原则
- 最小权限：Agent 工具、数据访问按需授予
- 纵深防御：输入过滤 + 输出校验 + 权限控制
- 默认拒绝：不确定时优先拒绝或降级
- 可审计：关键 操作留日志，便于追溯
提示词工程
- 系统提示中明确「仅执行授权操作」「不泄露内部信息」
- 用结构化格式区分指令与数据
- 对敏感场景增加「若不确定请说明」等约束
Agent 与工具
- 工具参数做 schema 校验
- 写操作需二次确认或审批
- 对外部 API 做超时、限流、错误处理
数据与合规
- 生产前明确隐私政策与数据留存
- 日志脱敏，不记录完整 PII
- 支持用户数据导出与删除（GDPR 等）
持续改进
- 建立红队用例库，定期回归
- 关注 OWASP、CVE 等安全动态
- 与业务迭代同步更新安全策略