AISBench工具配套LLM的精度&性能评测组件,用于全流程大模型评测以及生成式大模型结果多维分析。
Ascend Extension for PyTorch
Triton-Ascend面向昇腾平台,旨在让Triton代码能够在昇腾硬件上高效运行。
TorchAir 支持用户基于PyTorch框架和torch_npu插件在昇腾NPU上使用图模式进行训练和推理
基于spring boot + maven + opencv 实现的图像深度学习Demo项目,包含车牌识别、人脸识别、证件识别等功能,贯穿样本处理、模型训练、图像处理、对象检测、对象识别等技术点
MindSpore Transformers套件的目标是构建一个大模型训练、推理、部署的全流程套件: 提供业内主流的Transformer类预训练模型, 涵盖丰富的并行特性。 期望帮助用户轻松的实现大模型训练。
Omni_Infer is a suite of inference accelerators designed for the Ascend NPU platform, offering native support and an expanding feature set.
cann-ops-adv,是基于昇腾硬件的融合算子库(adv表示advanced)。
统一推理工具链入口,提供客户一体化开发工具,支持一站式调试调优