情报 PyTorch推出全新torchao库,提升模型性能与效率

PyTorch近日推出了一款名为torchao的新库,旨在通过采用低精度数据类型、量化以及稀疏性技术,降低模型的计算成本和内存消耗,从而实现更高效的模型执行。 低精度数据类型:加速模型训练与推理 torchao支持包括float8、int4在内的低精度数据类型,这些类型能够有效地减少计算资源的需求和内存使用量。例如,在... 阅读全文

情报 PyTorch重大层级漏洞CVE-2024-5480被通报

今年4月,研究人员向漏洞悬赏平台Huntr报告了开源机器学习框架PyTorch存在的重大层级漏洞CVE-2024-5480。该漏洞的CVSS风险评分达到了最高等级10分,影响所有2.2.2版以前的PyTorch版本。Huntr平台为表彰研究人员的贡献,提供了1,500美元的奖励,并于上周公布了该漏洞的详细情况。 漏洞详... 阅读全文