支持用户基于PyTorch框架和torch_npu插件在昇腾NPU上使用图模式进行训练和推理
继承自PyTorch框架Dynamo模式,将PyTorch的FX图转换为GE计算图,并提供了GE计算图在昇腾NPU的编译与执行的能力。
快速上手如果您在配置时未指定Ascend sdk的安装路径,则无法执行CPU上的调试,需要在NPU环境上进行测试。
CPU调试时,需要设置LD_LIBRARY_PATH到生成的fake so文件目录以及sdk目录 tools/env.sh会根据配置生成对应的LD_LIBRARY_PATH(如果您在配置时指定了Ascend sdk安装路径) - import torch
- import torchair
- config = torchair.CompilerConfig()
- npu_backend = torchair.get_npu_backend(compiler_config=config)
- class Model(torch.nn.Module):
- def __init__(self):
- super().__init__()
- def forward(self, x, y):
- return torch.add(x, y)
- model = Model()
- model = torch.compile(model, backend=npu_backend, dynamic=False)
- x = torch.randn(2, 2)
- y = torch.randn(2, 2)
- model(x, y)
复制代码 版本配套表[td] TorchAir版本 | PyTorch版本 | torch_npu版本 | CANN版本 | Python版本 | master(主线) | 2.1.0 | 在研版本 | 在研版本 | Python3.8.x
Python3.9.x
Python3.10.x | 6.0.rc3 | 2.1.0 | 6.0.rc3 | 8.0.rc3 | Python3.8.x
Python3.9.x
Python3.10.x | 6.0.rc2 | 2.1.0 | 6.0.rc2 | 8.0.rc2 | Python3.8.x
Python3.9.x
Python3.10.x | 6.0.rc1 | 2.1.0 | 6.0.rc1 | 8.0.rc1 | Python3.8.x
Python3.9.x
Python3.10.x |
支持的型号- Atlas A2 训练系列产品
- Atlas 推理系列产品(配置Ascend 310P AI处理器)
链接: https://pan.baidu.com/s/18igfjB4yoGmUr2mx6I_xoA 提取码下载:
|