arXiv cs.RO· Ethan Rathbun, Ahmed Agha, Saaduddin Mahmud, Christopher Amato, Alina Oprea, Eugene Bagdasarian·· 4 天前
针对世界模型的攻击可污染机器人学习流水线
Targeting World Models to Compromise Robot Learning Pipelines
AI 导读
研究者提出一种针对机器人学习供应链的新型数据投毒攻击：向看似安全的遥操作数据集注入恶意提示或破坏性转移动态，这些数据仅在经过世界模型处理后才会激活，生成危险的合成训练轨迹，进而导致不安全或被攻破的机器人策略。该攻击在动作条件与文本条件的世界模型上均验证有效，实现了对下游 DRL 策略的端到端后门，并在 VLA 场景中完成概念验证。
来源：arXiv cs.RO · arxiv.org