SHERL

优惠 SHERL:为资源受限的迁移学习场景提供一种高效且准确的解决方案

  • SHERL:为资源受限的迁移学习场景提供一种高效且准确的解决方案
    AI
  • 大连理工大学、鲁汶大学、腾讯微信和香港科技大学的研究人员推出SHERL,它旨在为资源受限的迁移学习场景提供一种高效且准确的解决方案。SHERL的核心思想是将大型预训练模型适应到下游任务中,同时显著减少可训练参数并解决微调过程中的内存挑战。通过广泛的实验验证了SHERL在多个任务和不同架构上的有效性,展示了其在资源受限环... 阅读全文