近期，必威BETWAY官网吕锡香教授指导的博士生李一戈的论文「Anti-Backdoor Learning: Training Clean Models on Poisoned Data」，被人工智能顶级会议NeurIPS2021收录。这项研究成果由西电必威BETWAY官网、迪肯大学，索尼AI，墨尔本大学和UIUC合作完成合作完成。

NeurIPS（Conference on Neural Information Processing Systems），即神经信息处理系统大会，在谷歌2021全球学术期刊与会议影响力榜单中排名第12位（h5-index为245），是CCF推荐的A类国际学术会议，是人工智能领域的国际最顶级会议之一。

本篇论文研究的是AI安全领域的后门攻击问题。后门攻击通过在训练样本中添加恶意触发器，对模型安插后门并在测试阶段控制模型的预测结果。后门攻击无疑对深度模型的安全训练和部署提出了巨大挑战。针对上述问题，本论文首次提出了反后门学习理论和方法，允许在有毒的后门数据上训练一个干净的模型。我们在3个基准数据集上对当前最先进的6种后门攻击进行了防御，实验结果表明，我们提出的反后门学习方法能够取得模型层面后门防御的最佳效果。该研究得到了NeurIPS领域主席的高度认可：

本文的指导老师吕锡香教授认为，论文提出的反后门学习方法，为工业界提供了在不可信或者第三方数据上训练良性模型的新思路。重要的是，该方法的提出可以使公司、研究机构或政府机构受益，例如亚马逊ML和SageMaker，微软Azure人工智能平台，谷歌人工智能平台和IBM沃森机器学习，可以帮助用户训练无后门的机器学习模型。这种反后门学习方法有助于帮助构建更加安全可靠的模型训练场景，同时对深度模型在实际落地部署提供重要的安全保障。