广东人工智能与数字经济实验室、新加坡国立大学计算机科学系、新加坡国立大学数据科学研究所和加拿大卡尔顿大学的研究人员推出一个名为Ferret的算法，它是一种用于大语言模型（LLMs）的联邦学习（FL）方法。联邦学习是一种允许在多个分散的数据源上训练模型的技术，同时保持数据隐私和减少通信开销。
- GitHub：https://github.com/allen4747/Ferret
例如，有一家大型医疗保健公司想要训练一个能够理解医疗记录的语言模型。使用Ferret，该公司可以在各个医院的本地服务器上训练模型，而不必将患者的敏感数据集中到一个地方。每个医院的服务器都可以对模型进行微调，并只与中央服务器共享必要的更新信息，从而保护了患者的隐私并减少了数据传输。
主要功能： Ferret的主要功能是在保持数据隐私的同时，对大型语言模型进行有效的联邦学习。它通过在多个客户端（如不同的设备或服务器）上分布式地微调模型，而不是将所有数据集中到一个中心服务器上。
主要特点：
- 全参数调优： Ferret支持对模型的所有参数进行调优，这与只调优部分参数的方法相比，可以更好地捕捉数据的特性。
- 共享随机性： 该算法利用共享随机性来减少通信开销，这意味着客户端之间可以共享一些随机种子，而不是传输完整的模型参数。
- 计算和通信效率： Ferret通过第一阶优化方法进行高效的本地更新，并使用低维空间投影来减少通信成本。
工作原理： Ferret的工作原理包括以下几个步骤：
- 全局聚合： 在每轮联邦学习的开始，客户端接收随机种子，并使用这些种子生成随机基，然后根据这些基来重构本地更新。
- 本地更新： 每个客户端使用第一阶方法（如梯度下降）在本地数据上进行模型更新。
- 投影更新： 客户端将本地更新投影到低维空间，并只将这些投影坐标发送给中心服务器，从而减少通信开销。
- 重构更新： 中心服务器使用接收到的投影坐标和共享的随机种子来重构全局模型，并将其分发给所有客户端。
具体应用场景：
- 跨设备学习： 在移动设备上训练语言模型，同时不将用户数据上传到云端。
- 跨机构协作： 不同机构可以共同训练一个模型，而不必共享他们的敏感数据。
- 个性化模型： 根据每个用户的特定需求和数据来个性化语言模型，而不泄露个人隐私。
0条评论