澳科研团队用新算法帮助“机器学习”抗干扰

新华社堪培拉6月30日电（记者 白旭 姜晨怡） 澳大利亚联邦科学与工业研究组织（CSIRO）日前发布消息说，该机构的一个科研团队开发了一套人工智能新算法，可帮助抵御“机器学习”可能遇到的干扰。

“机器学习”可以在大数据训练中“学习”正确的工作方法，但它也容易受到恶意干扰。攻击者一般通过输入恶意数据来欺骗“机器学习”模型，导致其出现故障。开发新算法的Data61机器学习小组负责人理查德·诺克博士举例说，在进行图像识别时，攻击者通过在图像上添加一层“干扰波”，可以欺骗“机器学习”模型进行错误的图像分类。

“我们的新算法通过一种类似疫苗接种的思路来抗干扰。”诺克博士说，他们的新算法可对“机器学习”模型进行防干扰训练，比如在图片识别领域，对图片集合进行小的修改或使其失真，可激发出“机器学习”模型越来越强的抗干扰能力，并形成相关的自我抗干扰训练模型。当经过小规模的失真训练后，最终的抗干扰训练模型将更加强大，在干扰真的到来时，“机器学习”模型将具备“免疫”功能。