物理科技生物学-PHYICA

技术为无线设备中的人工智能训练铺平了道路

技术工程 2022-03-19 21:54:00

wireless devicesCredit:CC0 Public Domain Federated learning是在保护数据隐私的同时训练人工智能(AI)系统的绝佳工具,但所涉及的数据流量之大,使其对于包含无线设备的系统来说难以操作。一项新技术使用压缩来减少数据传输的大小,为无线技术的人工智能培训创造了额外的机会。联合学习是机器学习的一种形式,涉及多个称为客户端的设备。每个客户都使用不同的数据进行培训,并开发自己的模型来执行特定的任务。然后,客户端将它们的模型发送到一个中央服务器。集中式服务器利用这些模型中的每一个来创建一个混合模型,该模型的性能优于其他模型。然后,中央服务器将这个混合模型发送回每个客户端。然后重复enti re过程,每次迭代都会导致模型更新,最终提高系统的性能。

“联合学习的优势之一是,它可以让整个AI系统提高其性能,而不会损害用于训练系统的数据的隐私,”该新技术论文的合著者、北卡罗来纳州立大学电气和计算机工程助理教授周伟说。“例如,您可以利用多家医院的特权患者数据来改进人工智能诊断工具,而医院无法访问彼此患者的数据。”

有许多任务可以通过利用存储在人们个人设备(如智能手机)上的数据来改进。联合学习将是一种在不损害任何人隐私的情况下利用这些数据的方式。然而,有一个绊脚石:联合学习需要在培训期间客户端和中央服务器之间进行大量的通信,因为它们来回发送模型更新。在带宽有限或有大量数据流量的地区,客户端和集中式服务器之间的通信可能会阻塞无线连接,从而使过程变慢。

“我们试图想出一种方法来加快联合学习的无线通信,并从几十年来在视频压缩方面所做的工作中获得灵感,以开发一种改进的数据压缩方法,”王说。

具体来说,研究人员开发了一种技术,允许客户端将数据压缩成更小的数据包。数据包在发送前被压缩,然后由中央服务器重新构建。研究小组开发的一系列算法使这一过程成为可能。通过使用tec hnique,研究人员能够将从客户端发送的无线数据量压缩高达99%。从服务器发送到客户端的数据没有被压缩。

“我们的技术使联合学习在可用带宽有限的无线设备中变得可行,”该论文的主要作者、北卡罗来纳州立大学博士生恺悦说。例如,它可以用来提高许多与用户交互的人工智能程序的性能,如语音激活的虚拟助手

论文“通过预测编码实现通信高效的联邦学习”发表在《信号处理精选主题》杂志上。这篇论文是由数控大学电气与计算机工程教授戴怀玉合著的;和北卡罗来纳州立大学博士后研究员金日成。

来源:由phyica.com整理转载自PH,转载请保留出处和链接!

本文链接:http://www.phyica.com/jishugongcheng/12731.html

发表评论

用户头像 游客
此处应有掌声~

评论列表

还没有评论,快来说点什么吧~