登录 注册
开源 企业版 高校版 私有云 模力方舟 模力方舟
人工智能
/
推理框架
开源许可
MulanPSL-2.0 0BSD AFL-3.0 AGPL-3.0 Apache-2.0 Artistic-2.0 BSD-2-Clause BSD-3-Clause BSD-3-Clause-Clear BSD-4-Clause BSL-1.0 CC-BY-4.0 CC-BY-SA-4.0 CC0-1.0 CECILL-2.1 CERN-OHL-P-2.0 CERN-OHL-S-2.0 CERN-OHL-W-2.0 ECL-2.0 EPL-1.0 EPL-2.0 EUPL-1.1 EUPL-1.2 GFDL-1.3 GPL-2.0 GPL-3.0 ISC LGPL-2.1 LGPL-3.0 LPPL-1.3c MIT MIT-0 MPL-2.0 MS-PL MS-RL MulanPSL-1.0 MulanPubL-1.0 MulanPubL-2.0 NCSA ODbL-1.0 OFL-1.1 OSL-3.0 PostgreSQL UPL-1.0 Unlicense Vim WTFPL Zlib
全部语言
Java JavaScript HTML CSS Python C Shell C++ TypeScript PHP C# Go Objective-C Kotlin Android Ruby Assembly Swift NodeJS Dart Perl Lua Rust Matlab 其他 PowerShell HTML/CSS Scala 微信 Groovy C/C++ Verilog XSLT R QML Pascal Docker CoffeeScript FORTRAN Erlang Emacs Lisp ActionScript SQL Smalltalk M VHDL Delphi TeX/LaTeX ASP Visual Basic Common Lisp Clojure Scheme LiveScript Awk Haskell Elixir Julia 易语言 Pawn AutoHotkey YAML OCaml Ada D Puppet Standard ML Logos XML Arduino Prolog Coq VimL 汇编 Haxe Vala ColdFusion Scilab Crystal Racket Lisp Slash Eiffel eC DOT Zephir Nemerle
Stars
Stars 最新推荐 最近更新
6854763 mindspore 1604325217

MindSpore/vllm-mindspore

155
MindSpore的vLLM插件，支持基于vLLM框架部署MindSpore模型的推理服务。
Python
推理框架
|
1天前
12 mirrors 1578989292

Gitee 极速下载/vllm

19
vLLM 是一个快速且易于使用的 LLM 推理和服务库
Python
推理框架
|
5天前
14713870 metax maca 1740555567

MetaX-MACA/FlashMLA

10
Fast and efficient attention method exploration and implementation.
推理框架
|
5个月前
12 mirrors 1578989292

Gitee 极速下载/bentoml

8
BentoML 是 AI 应用程序开发人员的平台，提供工具和基础架构来简化整个 AI 产品开发生命周期
Python
推理框架
|
5天前
12 mirrors 1578989292

Gitee 极速下载/sglang

7
SGLang 是一个针对大语言模型和视觉语言模型的快速服务框架
Python
推理框架
|
5天前
12 mirrors 1578989292

Gitee 极速下载/KTransformers

6
‌KTransformers‌是由清华大学的KVCache.AI团队与趋境科技联合发布的开源项目
Python
推理框架
|
5天前
12 mirrors 1578989292

Gitee 极速下载/FlashMLA

5
FlashMLA 是针对 Hopper GPU 优化的高效 MLA 解码内核，由 DeepSeek 开源，专为处理可变长度序列而设计，目前已投入生产环境
C/C++
推理框架
|
5天前
12 mirrors 1578989292

Gitee 极速下载/deepep

4
DeepEP 是专为 Mixture-of-Experts (MoE) 和 expert parallelism (EP) 定制的通信库
C/C++
推理框架
|
5天前
12 mirrors 1578989292

Gitee 极速下载/deepgemm

3
DeepGEMM 是一个专为简洁高效的 FP8 通用矩阵乘法（GEMM）设计的库
Python
推理框架
|
5天前
热门项目
今日
本周
MindSpore/vllm-mindspore
155
MindSpore的vLLM插件，支持基于vLLM框架部署MindSpore模型的推理服务。
MindSpore/vllm-mindspore
155
MindSpore的vLLM插件，支持基于vLLM框架部署MindSpore模型的推理服务。
点此查找更多帮助

搜索帮助

Git 命令在线学习 如何在 Gitee 导入 GitHub 仓库
Git 仓库基础操作
企业版和社区版功能对比
SSH 公钥设置
如何处理代码冲突
仓库体积过大，如何减小？
如何找回被删除的仓库数据
Gitee 产品配额说明
GitHub仓库快速导入Gitee及同步更新
什么是 Release（发行版）
将 PHP 项目自动发布到 packagist.org
回到顶部