科研速递 | 香港中文大学(深圳)理工学院黄建伟教授团队在国际通信网络顶级会议IEEE INFOCOM发表四篇论文
近日,香港中文大学(深圳)理工学院黄建伟教授团队的四篇论文被IEEE计算机通信国际会议INFOCOM 2022 (IEEE International Conference on Computer Communications) 收录。
INFOCOM是计算机网络领域三大顶级国际会议之一,长期以来被中国计算机学会(CCF)推荐为A类国际学术会议。每年由IEEE主办,在国际上享有盛誉并具有广泛的学术影响力,是计算机网络顶尖学者每年一度的盛宴。该会议的录取率低于20%。
黄建伟教授为香港中文大学(深圳)校长讲座教授、理工学院副院长,兼任深圳市人工智能与机器人研究院副院长和群体智能研究中心主任。黄建伟教授在通信网络领域的国际一流期刊和会议上发表论文300余篇, 谷歌学术总引用14000余次,H-Index为59。
黄建伟教授团队发表的四篇论文分别是:
1. Optimal Pricing Under Vertical and Horizontal Interaction Structures for IoT Networks
物联网中垂直与水平交互结构下的最优定价
2. Tackling System and Statistical Heterogeneity for Federated Learning with Adaptive Client Sampling
系统资源和数据统计异构下的联邦学习自适应用户采样
3. A Profit-Maximizing Model Marketplace with Differentially Private Federated Learning
基于差分隐私保护联邦学习的利润最大化机器学习模型交易市场
4. Socially-Optimal Mechanism Design for Incentivized Online Learning
社会效益最优的群智激励学习机制
一
论文详情
1. Optimal Pricing Under Vertical and Horizontal Interaction Structures for IoT Networks
物联网中垂直与水平交互结构下的最优定价
作者
丁宁宁(香港中文大学博士生,香港中文大学(深圳)访问博士生)
高林(哈尔滨工业大学深圳副教授)
黄建伟 (通信作者)
李鑫(华为)
陈昕(华为)
摘要
物联网系统中通常包含了几种不同类型的服务供应商,他们联合或单独地向客户销售物联网服务、网络服务和计算服务。这些供应商之间在定价和服务决策方面的复杂耦合是一个未充分探索的研究领域,了解这一点对于物联网网络的成功至关重要。本文研究了服务供应商定价和交互结构对具有大量异构客户的物联网系统的影响。具体而言,我们考虑了三种交互结构:协调、垂直不协调和水平不协调结构。尽管在建模和分析这些结构时涉及到具有挑战性的非凸优化问题,但我们成功地获得了每个交互结构中服务供应商的闭式最优定价策略。我们证明,对于供应商和客户而言,协调结构优于两种非协调结构,因为它避免了非协调结构中自私的价格加价行为。当客户需求差异较大且效益成本比率中等时,由于互补的供应商在水平不协调结构中的竞争,垂直不协调结构对供应商和客户来说都优于水平不协调结构。与直觉相反地,我们发现在垂直不协调结构中客户全部参与的临界点,供应商的最优价格不会随其成本的变化而变化。此外,我们的数值结果表明,我们所提出的定价机制优于最先进的基准,使服务提供者的利润增加了高达135.48%,使社会福利增加了高达122.55%。
2. Tackling System and Statistical Heterogeneity for Federated Learning with Adaptive Client Sampling
系统资源和数据统计异构下的联邦学习自适应用户采样
作者
罗冰(深圳市人工智能与机器人研究院,香港中文大学(深圳)和耶鲁大学国际联合博士后)
肖文力 (香港中文大学(深圳)理工学院2019级计算机专业本科生)
Shiqiang Wang (IBM T. J. Watson研究院研究员)
黄建伟 (通信作者)
Leandros Tassiulas (耶鲁大学教授)
摘要
传统的联邦学习采用均匀随机采样的方式从大量参与用户中选择一部分来参与每轮的模型训练。然而,由于随机选择用户的系统资源异构性(计算、通信)和数据统计异构性(数据量、数据分布),使得模型收敛需要花费较长的训练时间。针对此问题,本文通过研究参与方的数据质量和系统模型更新时间在模型收敛下的耦合关系,设计并优化模型收敛时间最短的异构用户重要性自适应采样方法,从而有效提高联邦学习的模型收敛速率。此外,所得到的理论结果在自主搭建的异构联邦学习测试平台中得到了有效的验证。
3. A Profit-Maximizing Model Marketplace with Differentially Private Federated Learning
基于差分隐私保护联邦学习的利润最大化机器学习模型交易市场
作者
孙鹏 (香港中文大学(深圳)博士后研究员,深圳市人工智能与机器人研究院兼职助理研究员)
陈旭(中山大学教授)
廖国成(中山大学助理教授)
黄建伟(通信作者)
摘要
相比于传统的数据交易市场,机器学习模型交易市场因其在提供智能化服务能力和保护数据安全与隐私等方面的优势近期受到关注。现有的模型交易市场依赖于传统的集中式机器学习架构,需要将用户数据收集至云服务器以完成模型训练,会造成严重的隐私担忧。近年来兴起的联邦学习技术允许用户在数据不出本地的条件下协作完成模型训练,因而可以极大地降低用户的隐私泄露风险。然而,近期研究发现用户在参与联邦学习过程中分享的模型更新或梯度信息仍然会造成隐私泄露(如面临成员推理攻击、数据重构攻击等)。
针对上述问题,本文构建了一种新型的基于差分隐私保护联邦学习的机器学习模型交易市场。该模型市场由数据拥有者,中间商和模型购买者组成,我们以中间商为核心进行设计。具体而言,我们首先设计了一种逆向拍卖机制以激励数据拥有者参与联邦学习模型训练。该激励机制根据各用户隐私预算提供相应强度的隐私保护,并针对性补偿其隐私泄露开销(该过程产生激励成本)。接着,根据模型购买者的市场特性,我们将训练出的模型进行最优版本设计与最优定价以出售给模型购买者(该过程产生收益)。为了实现中间商的利润(收益减去成本)最大化,我们设计了一个双层优化框架将利润最大化问题拆分为收益最大化和给定模型质量约束的成本最小化问题,并且在完全/不完全信息下分别设计了高效求解算法。最后,我们通过理论分析和仿真实验验证了所提算法的有效性,并得到了一些有趣的结论。
4. Socially-Optimal Mechanism Design for Incentivized Online Learning
社会效益最优的群智激励学习机制
作者
王志远(北京航空航天大学计算机学院副教授)
高林(哈尔滨工业大学(深圳)副教授)
黄建伟(通讯作者)
摘要
多臂老虎机(MAB)是一个研究不确定环境下顺序决策的经典在线学习框架(如图X(a)所示)。然而传统的MAB 框架忽略了决策者无法亲自采取行动的现象。这类现象经常存在于无线频谱共享、移动群智感知、边缘计算卸载等场景。如下图所示,在这类场景中,决策者会激励其它自私的智能个体(Selfish Agents)执行所需的行动,即代替决策者Pull Arms。本研究针对这类问题建立了群智激励学习框架 (Incentivized Online Learning, IOL)。该问题的难点在于学习未知环境和揭示非对称信息之间的紧密耦合。为了解决这个难点,作者构建了一个特殊的拉格朗日函数,并在此基础上针对群智激励学习框架提出了实现社会效益最优的机制。所提出的机制不仅满足多种经济学属性(公平性、激励相容、自愿参与),同时也能保证渐近最优效益(Sub-linear Regret)。同时作者进一步揭示了“群智的力量”(Power of Crowd):更大的智能群体使得IOL框架能够更接近社会效益的理论上限。
二
教授简介
黄建伟教授现任香港中文大学(深圳)校长讲座教授和理工学院副院长,深圳市人工智能和机器人研究院副院长和群体智能研究中心主任。黄建伟是IEEE Fellow,IEEE通信学会杰出讲师,科睿唯安计算机科学领域全球高被引科学家。他2005年于美国西北大学获博士学位,2005 至2007年间担任美国普林斯顿大学博士后副研究员,2007年至2018年间在香港中文大学信息工程系任助理教授/副教授/正教授。
黄建伟长期专注于网络优化,群体智能和经济学交叉领域的开创性研究, 他现任 IEEE Transaction on Network Science and Engineering (JCR Q1)的主编,曾任 IEEE Open Journal of the Communications Society 的副主编和中国计算机学会网络方向的所有A类期刊(IEEE Transactions on Mobile Computing, IEEE/ACM Transactions on Networking, IEEE Journal on Selected Areas in Communications)的编委。他历任IEEE通信学会认知网络专委会主席,IEEE通信学会多媒体通信专委员会主席,以及IEEE通信学会亚太分会技术委员会主席。