优惠 英伟达推出一种用于无标签多教师知识蒸馏的方法PHI-S

英伟达推出一种名为PHI-S（PHI Standardization）的技术，它是一种用于无标签多教师知识蒸馏的方法。知识蒸馏是一种技术，它允许一个“学生”模型去学习并模仿一个或多个“教师”模型的行为，而不需要直接访问训练数据。PHI-S特别关注于如何平衡和标准化来自不同教师模型的特征激活分布，以便学生模型可以更准确地... 阅读全文