跳到正文
SGSteven Guan

主分支

权限、安全与数据治理

将授权、信任和数据生命周期放在模型之外执行。

要解决的问题Agent 能看到什么、能改变什么,谁来保证?
BLUEPRINT局部蓝图

01 输入

  1. 身份
  2. 数据分类
  3. 动作风险
→

02 处理机制

  1. 限制能力
  2. 隔离不可信输入
  3. 审计与撤销
→

03 输出与证据

  1. 受控执行
  2. 可追溯责任

EXPLORE THIS BRANCH

继续深入 · 5 个方向

安全是贯穿系统的约束

攻击者可能控制输入、网页、上传文件、工具返回、仓库依赖和记忆候选。企业风险包括越权读、凭证泄漏、重复副作用和错误发布。提示词可以提醒模型识别风险,但真正边界来自身份、能力授权、隔离和外部状态核验。

本分支负责统一威胁与治理语义。工具页展开调用机制,知识页展开文档ACL,memory页展开记忆作用域,评测页展开红队;这些页面引用这里的原则。安全测试还需保持合法任务完成率,避免用全面拒绝伪装安全。

云端优先不等于忽略数据合同。模型推理、会话、文件、日志、备份与训练导出分别核对权限、保留、地区与删除。处理高影响领域时按具体业务实体、法域和用途落实专业审查,不能把通用架构图当作合规证明。

PRIMARY SOURCES

来源与阅读边界

来源按研究截止日整理。官方文档说明能力和约束,代码只证明对应版本,论文与讲座不自动证明生产效果。 资料截止:2026-10-15。

  1. MCP:Security best practices ↗官方文档 / 声明
  2. OpenAI:API data controls ↗官方文档 / 声明