一款高效、可靠的加速库，基于华为Ascend AI处理器，专门为Transformer模型的训练和推理而设计。

源码资源网

一款高效、可靠的加速库，基于华为Ascend AI处理器，专门为Transformer模型的训练和推理而设计。
软件架构

加速库接口功能主要分成三部分：

• 提供基础原生的算子（Operation），用户可以根据需求使用对应的算子完成计算功能。
• 提供图算子机制，用户根据模型设计对应的图算子，使用加速库提供的原生算子和创建的自定义算子创建图算子，完成相应的计算。
• 提供插件（Plugin）机制，用户可以根据自己的需求创建自定义的算子。
  

1. ├── 3rdparty            //第三方依赖库文件夹
   
2. ├── build               //可存放构建生成的文件
   
3. ├── ci                  //持续集成相关的配置文件
   
4. ├── docs                //文档文件
   
5. ├── example             //算子调用示例代码，包含可直接运行的Demo
   
6. ├── include             //存放公共头文件
   
7. ├── ops_configs         //存放算子输入输出数据规格约束文件
   
8. ├── ops_customize       //存放自定义操作相关的文件
   
9. ├── output              //编译输出文件夹
   
10. ├── scripts             //脚本文件存放目录
    
11. ├── src                 //主体源代码目录
    
12. │   ├── atb
    
13. │   ├── cinterface      //包含 C 接口部分的源代码
    
14. │   ├── include
    
15. │   ├── kernels
    
16. │   │   ├── configs     //支持的配置说明
    
17. │   │   ├── document    //文档目录
    
18. │   │   ├── include
    
19. │   │   ├── kernels     //单算子存放目录
    
20. │   │   ├── mixkernels  //融合算子存放目录
    
21. │   │   ├── tbe_adapter //TBE 适配器相关的源代码
    
22. │   │   └── CMakeLists.txt
    
23. │   ├── ops_common
    
24. │   ├── ops_infer       //推理OP
    
25. │   ├── ops_train       //训练OP
    
26. │   ├── torch_atb       //与PyTorch相关的atb库文件
    
27. │   └── CMakeLists.txt
    
28. ├── tests               //测试代码
    
29. └── torch_atb

复制代码

• 对Transformer模型的高效加速：ATB加速库通过优化矩阵乘法等核心算子和注意力机制的实现方式，实现了对Transformer模型的高效加速。
• 高性能和效率：ATB加速库充分利用了Ascend AI处理器的硬件特性，如算力、存储带宽和内存带宽，通过硬件加速和数据重用等技术，进一步提升了性能和效率。
• 提供了底层基础的高性能算子以及高效的算子组合技术。
• 支持多种模型框架如PyTorch、MindSpore、Paddle。
  

链接: https://pan.baidu.com/s/1cSadcFHCs3ZNw-2-aIyWyw


提取码下载：

文件名称:提取码下载.txt 
下载次数:0  文件大小:16 Bytes  售价:19金钱 [记录]
下载权限: 不限 [购买VIP]   [充值]   [在线充值]   【VIP会员6折；永久VIP4折】

安全检测，请放心下载