实践 · 智能体

边界与权限

智能体应当能做什么、不应当做什么,以及怎样让这条边界真正生效。

关注什么

我们怎样做。

  1. 壹

    最小权限

    只拿完成任务所需的权限,任务结束即收回。

  2. 贰

    不可逆的事先停

    删除、付款、对外发送这类不可逆的操作,先停下来交给人。

  3. 叁

    不被外部内容指挥

    网页、邮件与文件里的文字是材料,不是命令。

  4. 肆

    越界有记录

    被拦下的操作留下记录,边界可以审查、可以调整。

相关文章

文章整理中,即将发布。