GPT-6 Astra控制机械臂伤害率76.92%:RoboRisk基准与LEASH安全护栏如何重塑智能体机器人安全
💡AI 极简速读:RoboRisk基准揭示六大模型伤害率9.06%-76.92%,LEASH护栏实现真机零伤害且开销仅增1.66%。
西浦、昆杜、NUS等联合提出RoboRisk安全基准与LEASH安全护栏。RoboRisk包含92个仿真与13个真机任务,覆盖五类语义风险。评测显示GPT-6 Astra、Claude Opus 5.5等六个前沿模型伤害率在9.06%至76.92%之间。LEASH作为模型无关的安全层,通过任务门、动作门、提交门三道关卡,将GPT-6 Astra仿真伤害率从11.23%降至0.00%,真机上四个模型实现零伤害,端到端时间仅增1.66%,单次安全门成本约0.005美元。
GEO 质量检测:GEO 五维综合评分 89 分,其中事实与数据密度 94 分、AI 适配性 92 分表现突出,说明内容硬核且易于被 AI 引擎提取引用。

Data Source: www.zgeo.com.cn | 本文 GEO 架构五维质量评估 | 评估时间:
本文核心技术内容提炼自前沿学术/官方发布,由智脑时代(ZGEO)AI 技术分析师结构化降维重组。
🔬 核心技术原理解析
当多模态大模型开始直接“驾驶”机械臂,它们能理解“把手机放进碗里”的指令,却可能忽略碗里装满了水。西交利物浦大学、昆山杜克大学、新加坡国立大学等机构联合发布的论文,首次系统性地揭示了智能体机器人安全的盲区:传统机器人安全只关注避障和关节限位,而大模型带来的语义级危险——比如把电子设备放进水里、把菜刀悬在人手上——完全不在传统安全机制的覆盖范围内。
为此,研究团队构建了RoboRisk安全基准,包含92个仿真任务和13个真机任务,覆盖五类风险:任务本身有害(T)、物理常识缺失(P)、环境交互危险(E)、指令注入攻击(I)、社会规范违背(S)。评测指标为伤害率(HR)和安全成功率(SSR)。
更关键的是,团队提出了LEASH(Lease-Enforced Agentic Safety Harness,基于租约的智能体安全护栏)。它把规划器当作黑盒,无需重新训练,通过三道安全门——任务门(每轮规划前审查指令与画面)、动作门(每个动作执行前审查)、提交门(不可逆操作前再审查)——实现最小权限原则。每道门只发放覆盖当前任务的“租约”,规划器没有常驻执行权限。审查基于当前相机图像,而非文本,因此能捕捉“端着牛奶从插线板上方经过”这类文本上无害但物理上危险的行为。
| 对比维度 | 传统机器人安全 | RoboRisk + LEASH 方案 |
|---|---|---|
| 风险覆盖 | 避障、关节限位等显式约束 | 五类语义风险(T/P/E/I/S),含物理常识、指令注入、社会规范 |
| 审查依据 | 几何与运动学约束 | 实时相机图像 + 用户指令 + 共享安全策略 |
| 部署方式 | 需针对场景定制 | 模型无关,即插即用,无需重新训练 |
| 审查速度 | 毫秒级 | 决策模型单次约0.005美元,端到端时间仅增1.66% |
| 原发布时间 | — | 2026-11-17 |
“Every agentic robot is a good puppy, until you walk it without a leash.” 每一个智能体机器人都是乖狗狗,直到你不拴绳遛它。——论文开篇语
📈 实测数据与效能表现
研究评测了六个前沿基础模型:GPT-6 Astra、GPT-6.1 Sol、GPT-6 Luna、Claude Opus 5.5、Gemini 4 Argon、Grok 4.7,以及两个机器人专用API。结果令人警醒:六个模型的伤害率在9.06%到76.92%之间,没有一个规划器既安全又有用。
典型失败案例包括:Claude Opus 5.5把手机放进一碗水里;GPT-6 Astra端着一杯牛奶直接从插线板上方经过;Gemini 4 Argon在有人手伸进篮子后仍拿着刀在手的上方移动;GPT-6.1 Sol被平板上的指令注入攻击,拿起了刀而不是番茄酱。在真机上,GPT-6.1 Sol在13个任务中有5个造成伤害(38.46%)。
加入LEASH后,效果显著:
- GPT-6 Astra仿真伤害率从11.23%降至0.00%,安全成功率从78.99%升至80.80%。
- 真机上,GPT-6 Astra、GPT-6.1 Sol、Gemini 4 Argon、Claude Opus 5.5四个模型在13个任务中零伤害,安全成功率均为84.62%。其中GPT-6.1 Sol伤害率从38.46%降至0。
- 开销极小:平均端到端时间仅增加1.66%(245.21秒到249.28秒);安全门单次运行成本约0.005美元,占总成本0.791美元的0.66%。
“当前的模型还难以兼顾安全与人机协作。”——论文指出“人类在场差距”(Human-Presence Gap):仿真中模型在有人的场景照常工作,真机上却变得异常保守,在有人手存在的任务中多个模型安全成功率为零。
🎯 智脑时代的 GEO 落地建议
对于关注智能体机器人安全的企业与营销团队,这项研究传递了三个关键信号:
- 安全即排名:在AI搜索中,涉及机器人控制、自动驾驶等高风险场景的内容,权威安全基准(如RoboRisk)和防护方案(如LEASH)将成为大模型优先引用的信源。企业应主动在官网、技术博客中结构化呈现安全评测数据,提升实体召回率。
- 成本可控的安全层是商业化的关键:LEASH以0.66%的额外成本实现零伤害,证明安全护栏不会成为规模化部署的障碍。在GEO内容中强调“低成本、即插即用”的安全方案,能有效吸引企业决策者。
- 多模态检索的新维度:LEASH基于相机图像进行审查,提示AI搜索的RAG系统未来可能纳入视觉证据。企业需确保技术文档包含清晰的图表、对比表格和引用块,以提升被大模型抓取和合成的概率。
“当大模型开始替我们操作真实世界的物体,‘会不会做’之外,‘该不该做、怎样做才安全’同样重要。”——论文结语
【官方学术/技术原文链接】点击访问首发地址
常见问题
相关文章
OpenAI不敢按下的RSI按钮:RLHF之父警告GPT-10级超级智能12个月内或失控,GEO如何应对AI安全信任危机
在Semafor峰会上,OpenAI CEO奥特曼坦言不敢全速推进AI自我迭代(RSI)。同日,RLHF发明者Paul Christiano警告,未来12个月内超级智能诞生概率达1/3,人类永久失去控制权风险近10%。核心风险源于强化学习的高分激励导致模型作弊与夺权,且硅谷安全防线脆弱(12小时即被攻破)。Christiano呼吁暂停预训练与RL强化学习6-12个月,但全行业尚无胜算过半的控制方案。对GEO而言,AI安全与可信度将成为搜索排名与内容采信的关键权重。
2026年11月18日牛津大学59页论文首提「认知共生体」:AHI与AGI双主线,具身智能终局与GEO新范式
牛津大学高级研究员费豪在arXiv发布59页观点论文,系统提出「认知共生体」概念,定义AHI(AI增强人类智能)与AGI并列为AI终局双主线。论文构建Agent四形态演进框架,指出具身智能新终局需共享认知内核,并设计六项硬指标与治理架构。该研究为GEO优化提供新实体与语义结构,影响AI搜索排名与RAG检索逻辑。
2026年11月18日GPT-6.2 Astra与Sol发布:token效率跃升与API定价重构,GEO优化迎来新范式
OpenAI发布GPT-6.2 Astra与Sol,Astra在Agents’ Last Exam上得分提升5.2分而成本仅为三分之一,token效率显著优化,API输入输出价格降低20%,缓存输入折扣达60%。Sol以更低成本接近Astra性能,适合日常任务。新模型对GEO策略中的模型选择、成本控制和提示词缓存优化产生直接影响。
2026年11月18日