学术动态

学术动态

我院王绍蔚副教授研究成果被人工智能领域国际顶级学术会议IJCAI录用

发布时间:2021-05-02

近日,我院王绍蔚副教授针对联邦学习隐私保护梯度估计关键问题的论文"Hiding Numerical Vectors in Local Private and Shuffled Messages"收到了人工智能领域国际顶级学术会议International Joint Conference on Artificial Intelligence (IJCAI 2021)的正式录用通知。IJCAI会议源自1969年,是人工智能领域的综合性会议,也是中国计算机学会(CCF)推荐的A类会议,在该领域具有极大的影响力,代表人工智能领域的最高水平和发展方向。IJCAI 2021共收到来自全球范围内的投稿4204篇,录用587篇,录用率仅为13.9%。

该项工作由我院联合腾讯公司与中国科学技术大学团队共同完成,在联邦学习中核心的隐私保护梯度估计问题中取得重要突破,使得联邦参数服务器可以在极低的通信代价下获得最优的梯度估计准确度,从而极大提升联邦机器学习模型训练的效率和效果。具体来说,在众多用户参与的联邦机器学习系统中,对于维度为d的梯度数据,假设其稀疏度(即非零元素的个数)为s,本项研究提出了一种基于非零元素整体哈希的新隐私保护机制,将梯度估计的通信复杂度从O(d)降低O(log s),同时将估计误差从之前最好结果的O(ds^2)降低为O(ds)。在理论层面,本项研究证明了该新机制在本地与洗牌差分隐私模式是理论最优的(minimax optimal)。

该项研究的成果可广泛应用于联邦学习机器学习系统,显著提升大机器学习模型(如深度学习模型)训练的效率和有效性,提高联邦机器学习与隐私计算在诸多领域与应用场景的实用性。


整理 | 崔田莹

校对 | 吴丽苏

责任编辑 | 王宇