情报 PyTorch推出全新torchao库，提升模型性能与效率

PyTorch近日推出了一款名为torchao的新库，旨在通过采用低精度数据类型、量化以及稀疏性技术，降低模型的计算成本和内存消耗，从而实现更高效的模型执行。 低精度数据类型：加速模型训练与推理 torchao支持包括float8、int4在内的低精度数据类型，这些类型能够有效地减少计算资源的需求和内存使用量。例如，在... 阅读全文