July 24, 2024

PyTorch 2.4 Release Blog

我们很高兴地宣布 PyTorch® 2.4 的发布(release note)! PyTorch 2.4 为 torch.compile 添加了对 Python(3.12)最新版本 的支持。AOTInductor freezing 通过允许序列化 MKLDNN 权重, 为运行 AOTInductor 的开发者提供了更多基于性能的优化。此外,引入了一个新的使用 libuv 的默认 TCPStore 服务器后端,能显著减少运行大规模作业时的初始化时间。 最后,新的 Python 自定义算子 API 使得将自定义内核集成到 PyTorch 中变得比以前更容易,特别是对于 torch.compile。

Read More