-
MaxKB v1.3 中文文档
MaxKB = Max Knowledge Base，是一款基于 LLM 大语言模型的开源知识库问答系统，旨在成为企业的最强大脑。 -
LangGraph v0.2.73 Documentation
LangGraph是一个使用 LLM 构建有状态、多参与者应用程序的库，用于创建代理和多代理工作流。 -
LangChain 中文入门教程
LangChain 是一个用于开发由语言模型驱动的应用程序的框架。他主要拥有 2 个能力： 1. 可以将 LLM 模型与外部数据源进行连接； 2. 允许与 LLM 模型进行交互。 LLM 模型：Large Language Model，大型语言模型。 -
KTransformers v0.2.0 中英文文档
KTransformers 是一个灵活且以 Python 为中心的框架，旨在通过先进的内核优化和放置/并行策略，增强用户的 Transformers 体验。其核心目标是提供一个易于扩展的平台，用于探索创新的大型语言模型（LLM）推理优化。 -
Kthena v0.2 Documentation
Kthena 是一个基于 Kubernetes 的 LLM 推理平台，它改变了组织在生产环境中部署和管理大型语言模型的方式。通过声明式模型生命周期管理和智能请求路由，它为 LLM 推理工作负载提供了高性能和企业级可扩展性。 -
构筑大语言模型应用：应用开发与架构设计
一本关于 LLM 在真实世界应用的开源电子书，介绍了大语言模型的基础知识和应用，以及如何构建自己的模型。其中包括Prompt的编写、开发和管理，探索最好的大语言模型能带来什么，以及LLM应用开发的模式和架构设计。 -
Kthena v0.1 Documentation
Kthena 是一个基于 Kubernetes 的 LLM 推理平台，它改变了组织在生产环境中部署和管理大型语言模型的方式。通过声明式模型生命周期管理和智能请求路由，它为 LLM 推理工作负载提供了高性能和企业级可扩展性。 -
vLLM v0.5.1 Documentation
vLLM is a fast and easy-to-use library for LLM inference and serving. -
vLLM v0.6.4 Documentation
vLLM is a fast and easy-to-use library for LLM inference and serving. -
vLLM v0.7.2 Documentation
vLLM is a fast and easy-to-use library for LLM inference and serving.