实践 · 智能体
边界与权限
智能体应当能做什么、不应当做什么,以及怎样让这条边界真正生效。
关注什么
我们怎样做。
- 壹
最小权限
只拿完成任务所需的权限,任务结束即收回。
- 贰
不可逆的事先停
删除、付款、对外发送这类不可逆的操作,先停下来交给人。
- 叁
不被外部内容指挥
网页、邮件与文件里的文字是材料,不是命令。
- 肆
越界有记录
被拦下的操作留下记录,边界可以审查、可以调整。
实践 · 智能体
智能体应当能做什么、不应当做什么,以及怎样让这条边界真正生效。
关注什么
最小权限
只拿完成任务所需的权限,任务结束即收回。
不可逆的事先停
删除、付款、对外发送这类不可逆的操作,先停下来交给人。
不被外部内容指挥
网页、邮件与文件里的文字是材料,不是命令。
越界有记录
被拦下的操作留下记录,边界可以审查、可以调整。