MetaX TVM: Open Deep Learning Compiler Stack
基于飞桨的OCR和文档解析工具库,包含文字识别PP-OCR系列模型、文档解析PP-Structure系列方案和关键信息抽取PP-ChatOCR系列方案
Omni_Infer is a suite of inference accelerators designed for the Ascend NPU platform, offering native support and an expanding feature set.
针对训练&大模型场景,提供端到端命令行&可视化调试调优工具,帮助用户快速提高模型开发效率
ACL作为AI计算语言开发和运行平台,提供了Device管理、Context管理、Stream管理、内存管理、模型加载与执行、算子加载与执行、媒体数据处理等API,供用户开发AI应用,实现目标识别、图像分类、语言和文字处理等功能。
ascendc-api-adv,是昇腾硬件上面向算子开发场景的编程语言Ascend C的高阶类库。
DeepSparkInference推理模型示例库甄选了216个推理大小模型示例,小模型涵盖计算机视觉,自然语言处理,语音识别等领域;大模型涉及vLLM,TGI等多种框架,并将持续扩展更多、更新的模型示例。
cann-ops-adv,是基于昇腾硬件的融合算子库(adv表示advanced)。
统一推理工具链入口,提供客户一体化开发工具,支持一站式调试调优