研究揭示世界模型数据投毒攻击
热点事件历史事件
研究揭示世界模型数据投毒攻击
1 篇报道1 个报道来源4 天前更新
先了解这件事
报道摘要
研究者提出一种针对机器人学习供应链的新型数据投毒攻击：向看似安全的遥操作数据集注入恶意提示或破坏性转移动态，这些数据仅在经过世界模型处理后才会激活，生成危险的合成训练轨迹，进而导致不安全或被攻破的机器人策略。该攻击在动作条件与文本条件的世界模型上均验证有效，实现了对下游 DRL 策略的端到端后门，并在 VLA 场景中完成概念验证。
摘自 arXiv cs.RO
最新进展10月8日 12:00
针对世界模型的攻击可污染机器人学习流水线报道时间线
沿着报道，了解事件的不同侧面。
10月8日
- arXiv cs.RO针对世界模型的攻击可污染机器人学习流水线
研究者提出一种针对机器人学习供应链的新型数据投毒攻击：向看似安全的遥操作数据集注入恶意提示或破坏性转移动态，这些数据仅在经过世界模型处理后才会激活，生成危险的合成训练轨迹，进而导致不安全或被攻破的机器人策略。该攻击在动作条件与文本条件的世界模型上均验证有效，实现了对下游 DRL 策略的端到端后门，并在 VLA 场景中完成概念验证。