DARPA阻挠英特尔领导其机器学习安全技术

芯片制造商英特尔已被选中领导一项由美国军方研究部门DARPA领导的新计划， 旨在改善针对机器学习模型的欺骗攻击的网络防御。

机器学习是一种人工智能，它使系统可以随着时间的推移利用新的数据和经验进行改进。当今，最常见的用例之一是对象识别，例如拍摄照片并描述其中的内容。例如，这可以帮助有视力障碍的人如果看不到照片，就可以知道它们，但是自动驾驶汽车等其他计算机也可以使用它来识别道路上的东西。

但是，欺骗攻击虽然很少见，但可以与机器学习算法混为一谈。在自动驾驶汽车的情况下，对现实世界对象的细微变化可能会造成灾难性的后果。

就在几周前，迈克菲研究人员通过在限速标志上添加两英寸的胶带，诱使特斯拉以高于预期速度的速度每小时加速50英里。该研究是操纵设备的机器学习算法的第一个例子。

DARPA希望在那里发挥作用。该研究部门在今年早些时候表示，它正在研究一个称为GARD的程序，即保证AI防止欺骗的鲁棒性。现有的针对机器学习攻击的缓解措施通常是基于规则和预先定义的，但是DARPA希望它可以将GARD开发成一个具有更广泛防御能力的系统，以应对多种不同类型的攻击。

英特尔今天表示，它将与佐治亚理工学院一起作为四年计划的总承包商。

领导英特尔GARD团队的英特尔实验室首席工程师杰森·马丁（Jason Martin）表示，该芯片制造商与佐治亚理工学院将携手合作，以“增强对象检测能力，并提高AI和机器学习应对对抗攻击的能力。”

在该计划的第一阶段，英特尔表示，其重点是利用静止图像和视频的空间，时间和语义一致性来增强其对象检测技术。

DARPA表示，GARD可用于多种环境，例如生物学。

“我们希望产生的基于广泛情境的防御可以在免疫系统中看到，该系统可以识别攻击，获胜并记住攻击，从而在未来的交战中产生更有效的反应，” Dr。 Hava Siegelmann，DARPA信息创新办公室的项目经理。

“我们必须确保机器学习是安全的并且不会被欺骗，” Siegelmann说。