我们自己的安全协议,建立在科学模型之上。
SafeUs 不靠猜测,也不把决定交给 AI。每个到达 SafeUs 的操作都经过同一个决策点,遵循您可以阅读的规则,并留下您可以打开的记录。本页介绍这一模型。具体规则、阈值和测试目录不公开,这样任何人都无法把攻击调校到刚好从下方溜过。
模拟演示
看看 SafeUs 如何检查 AI 智能体的请求
选择一个示例。跟随 AI 智能体的请求通过护照检查,看看 SafeUs 是放行、交由人员审批,还是在请求到达您的账户之前将其拦下。
选择一个示例
请求路径
邮件中的隐藏指令
一封邮件中藏着一行指令,要求助手把所有合同发送到外部地址。
收件箱助手 · 将 40 份合同发送到外部地址
智能体护照检查
- 智能体是谁通过
- 代表谁行事通过
- 目的待核查
- 允许的访问未通过
- 规则与风险未通过
原因: 向外部发送文件不在此智能体的护照范围内。
SafeUs 的决定
拒绝
SafeUs 的应对
- 对经过 SafeUs 的发送,在文件外流之前将其阻止
- 将助手隔离,直到您审核
- 向您展示携带该指令的邮件
已连同所适用的规则记录在黑匣子中。
这些示例的汇总
- 已检查的请求
- 8
- 交由人工确认
- 3
- 已拦截
- 4
- 收件箱助手文件与云盘拒绝
- 日程助手日历允许
- 研究智能体网站拒绝
- 清理智能体文件与云盘暂挂
- 客服智能体聊天暂挂
SafeUs 协议
产品从不打破的八条规则。
唯一的决策点
每个到达 SafeUs 的请求都在同一个点、按固定顺序检查,然后才会发生任何事。相同规则下的相同请求总是得到相同答案。
由规则决定,而不是 AI
由清晰、固定的规则做出决定。只有在出现可疑迹象时才会使用 AI 审查,而且它只能让答案更严格。
自动化只收紧,人来放宽
信号、上下文和自动化只能把决定推向“已阻止”。放宽决定始终需要一个人和一次新的检查。
没有记录,就没有操作
如果决定无法先写入记录,操作就不会执行。
零内容
我们保存决定、字段名和引用。绝不保存邮件、文件、聊天或提示词的内容,也绝不保存令牌或密码。
没有证据,就没有承诺
如果 SafeUs 无法证明它控制着某项内容,就会直说。该项会标记为需要您操作或超出我们的范围,绝不会标为受保护。
高影响操作等待您确认
以您的名义发送、删除、付款或导出,始终要等待一个人批准。
默认安全
安全设置就是默认设置,绝不作为附加项出售。紧急停止在所有套餐中都免费。
决策
七种答案,一个方向。
每次检查给出七种答案之一,从最开放到最封闭。任何规则、信号或上下文都可以把答案推向“已阻止”;没有任何一个能把它拉回来。
决策阶梯
- 已允许
- 只读
- 已脱敏
- 已限制
- 等待您的审批
- 暂挂
- 已阻止
每次发布都经数千项自动化测试验证:任何规则组合都无法让决定倒退。
科学模型
每个操作九个问题,没有评分。
我们称之为“操作安全包络”。每个操作不是用一个不透明的数字衡量,而是沿九个维度解读,每个维度都由具体检查而非估算来回答。
权限
谁在操作,代表谁?
目的
请求是否与已批准的目的一致?
范围
操作和每个字段是否都在授权范围内?
敏感度
涉及的数据有多敏感?
操作强度
它能否发送、删除、付款或导出?
上下文
背后是什么设备、什么类型的网络?
行为
这个代理是否表现得反常?
可逆性
结果能否撤销?
证据
我们能否证明控制确实生效?
硬性界限从不权衡
有些情况不会与任何因素相抵:未知或已阻止的代理、其他工作区的数据、伪造或过期的授权委托、被禁止的工具、缺失的记录。它们会被阻止或暂停。
为什么没有评分
风险等级是排序,而不是测量值。把排序相乘得到的数字看似精确,却毫无意义。因此 SafeUs 按固定优先级排列发现,只显示数量和标签,绝不显示 0 到 100 的数字。
已验证优先于仅怀疑
已验证的路径始终排在仅被怀疑的路径之前。您会先看到今天最重要的三件事。
证据强度
每一项都说明我们有多确定。
SafeUs 从不因为某样东西看起来没问题就称其受保护。每个账户、代理和设备都根据我们能出示的证据带有四种标签之一。
它经过 SafeUs 控制点,且控制已被证明。
我们能看到它,但还不能控制它。
SafeUs 给出确切步骤,由您来执行。
我们在这里没有访问权限,我们会如实说明而不是隐瞒。
证据变弱时,决定绝不会放宽。记录为空并不意味着您是安全的。
代理能力
代理能做的越多,控制就越严格。
每个代理根据其声明的能力和您的策略允许的范围获得一个能力等级。等级会自动上升;降低等级始终需要一个人。
- 第 1 级只读,仅使用一个工具。
- 第 2 级可写入,或使用多个工具。
- 第 3 级可发送、删除、付款、导出或访问外部。每个不可逆操作都会等待您确认。
- 第 4 级运行代码、获取新工具或拥有管理员权限。默认处于观察中。
- 第 5 级能修改或复制自身,或在医疗、金融或公共部门工作。未经人工批准不会启动。
测试
我们用模型来检验模型本身。
Guardian Drill 会检验您自己的 SafeUs 设置:这个代理、账户或路径能否做它不该做的事?它以安全模拟的方式运行,不向服务商发送任何内容,不做任何更改,也绝不触及他人的系统。
每次演练都会告诉您测试了多少场景、发现了多少开放路径。它从不声称您是安全的。
用六项指标代替评分
- 演练攻击得手的频率
- 无害操作被暂停的频率
- 不安全的副作用,目标为零
- 从警报到遏制所用的时间
- 证据的完整程度
- 仍未验证的部分有多少
糟糕的一天
先遏制,再证明发生了什么。
我们自己的平台
安全产品首先保护自己。
工作区隔离
每个工作区都彼此隔离。一个工作区无法看到另一个工作区的数据,即使出错也不行。
雇主隐私边界
公司工作区只包含工作范围。您的个人 SafeUs 是一个独立的工作区,雇主无法看到。
托管在欧盟
数据库位于爱尔兰,应用函数运行在都柏林。
没有可被窃取的密码
登录使用一次性电子邮件验证码。高影响操作需要第二重验证。
经过验证的消息
来自已连接服务的每条消息都会先验证真伪并只接受一次,之后才可能改变任何内容。
受保护的发布
每次变更都要通过自动化安全检查,才会到达您手中。
备份与恢复演练
每日备份。首次恢复演练尚未进行;结果将连同证据在此公布。
我们不公开的内容
检查顺序、阈值、规则代码和测试目录。公开这些会帮助他人把攻击塑造成刚好从下方溜过。本页的原则保持不变;其背后的细节会持续收紧。