日本人工智能机器人测评：忽悠 智能机器人 竟然改改物品纹理就成功了

日本人工智能机器人测评：忽悠 智能机器人 竟然改改物品纹理就成功了

对抗攻击的作用

除了攻击智能机器人使其执行错误的操作和行为，本文提出的时空融合的对抗攻击对于提升模型的鲁棒性和模型行为的理解都有重要作用和意义。

通过对抗训练提升模型鲁棒性

通过在智能机器人的训练过程中混入由时空融合产生的对抗3D场景，研究人员使用对抗训练来提升智能机器人对于噪音的鲁棒性。通过对抗训练，智能机器人在对抗场景下和高斯噪音场景下的表现能力都得到了很大的提升（问答准确率，对抗场景：5.67%->23.56%，高斯噪音场景：22.14%->38.87%）。

模型决策行为理解

通过对抗攻击，本文拟进一步探索智能机器人脆弱的原因以及它们在决策时所依赖的特征偏好。研究人员用同样大小的对抗噪音来分别修改物体的“纹理”和“形状”属性，并使用同一场景对于智能机器人进行对抗攻击。通过实验研究人员发现，对于智能机器人模型，纹理攻击（准确率4.26%）比形状攻击（27.14%）的效果要强非常多。这进一步证明了，目前深度神经网络的决策方式更多的是依赖于对于纹理颜色信息的感知而不是对于物体形状的感知。

关于作者