Scaling on Scales

优惠 模型缩放策略Scaling on Scales:挑战传统上认为“越大越好”的观念

  • 模型缩放策略Scaling on Scales:挑战传统上认为“越大越好”的观念
    AI
  • 这篇论文探讨了一个有趣的问题:我们是否总是需要更大的视觉模型来获得更好的视觉理解?作者们提出了一种名为“Scaling on Scales”(S2)的方法,这是一种在图像尺度上进行扩展的策略,而不是简单地增加模型的大小。具体来说,他们使用了预训练的小型视觉模型(例如ViT-B或ViT-L),并在多个图像尺度上运行这些模... 阅读全文