一、LangChain概述
1.1 什么是 LangChain
github地址:https://github.com/langchain-ai/langchain
官网地址:https://www.langchain.com/langchain
官方文档:https://docs.langchain.com/oss/python/langchain/overview
API 文档:https://reference.langchain.com/python/langchain/
LangChain是2022年10月,由哈佛大学的Harrison Chase(哈里森·蔡斯)发起研发的一个开源框架,用于开发由大语言模型(LLMs)驱动的应用程序。比如,搭建 Agent、问答系统(QA)、对话机器人、文档搜索系统等。LangChain 之于 LLMs,类似 Spring 之于 Java,Django 之于 Python。顾名思义,LangChain中的“Lang”是指language,即大语言模型,“Chain”即“链”,也就是将大模型与外部数据&各种组件连接成链,以此构建AI应用程序。
1.2 有哪些大模型应用开发框架
| 框架 |
描述 |
| LangChain (Python) |
出现最早、最成熟的,适合复杂任务分解和单Agent应用 |
| LlamaIndex (Python) |
专注于高效的索引和检索,适合 RAG 场景 |
| LangChain4J (Java) |
LangChain出了Java、JavaScript(LangChain.js)两个语言的版本,LangChain4j的功能略少于LangChain,但是主要的核心功能都是有的 |
| SpringAI / SpringAI Alibaba (Java) |
有待进一步成熟,只是简单的对于一些接口进行了封装 |
| SemanticKernel (C#) |
微软推出的,对于C#同学来说,那就是5颗星 |
1.3 为什么需要LangChain
使用LangChain的好处:
- 简化开发难度:更简单、更高效、效果更好。
- 开发人员可以更专注于业务逻辑,而无须花费大量时间和精力处理底层技术细节。
- 学习成本更低:不同模型的API不同,调用方式也有区别,切换模型时学习成本高。使用LangChain,可以以统一、规范的方式进行调用,有更好的移植性。
- 现成的链式组装:LangChain提供了一些现成的链式组装,用于完成特定的高级任务。让复杂的逻辑变得结构化、易组合、易扩展。
1.4 LangChain 使用场景
| 项目场景 |
技术点 |
| 文档问答助手 |
Prompt + Embedding + RetrievalQA |
| 智能日程规划助手 |
Agent + Tool + Memory |
| LLM+数据库问答 |
SQLDatabaseToolkit + Agent |
| 多模型路由对话系统 |
RouterChain + 多 LLM |
| 互联网智能客服 |
ConversationChain + RAG +Agent |
| 企业知识库助手(RAG + 本地模型) |
VectorDB + LLM + Streamlit |
1.5 LangChain 生态位置

1.6 LangChain 架构

- LangChain 帮助快速开始构建 Agent ,支持选择的任何模型提供商。
- LangGraph 允许通过低级编排、记忆和人工参与支持来控制自定义 Agent 的每一步。可以管理具有持久执行能力的长时间运行任务。
- LangSmith 是一个帮助 AI 团队使用实时生产数据进行持续测试和改进的平台。提供观测、评估与部署功能。
- Deep Agents 用于构建能够规划、使用子 Agent 并利用文件系统处理复杂任务的 Agent,受 Claude Code、Deep Research 和 Manus 等应用的启发。
| 包 |
描述 |
| langchain |
包含构建使用 LLM 的应用所需的所有实现的主入口点 |
| langchain-core |
LangChain 生态系统中的核心接口和抽象 |
| langchain-text-splitters |
用于文档处理的文本分割工具 |
| langchain-mcp-adapters |
在 LangChain 和 LangGraph 应用中提供 MCP 工具 |
| langchain-tests |
用于验证 LangChain 集成包实现的标准化测试套件 |
| langchain-classic |
遗留的 angchain 实现和组件 |
1.7 LangChain的核心组件
LangChain的核心组件主要涉及四个部分:Model I/O、Chains、RAG、Agents。
- Model I/O
标准化大模型的输入和输出,包含提示模版,模型调用和格式化输出。

- Format(格式化):通过模板管理大模型的输入。将原始数据格式化成模型可以处理的形式,插入到一个模板中,然后送入模型进行处理。
-
Predict(预测):调用 LLM 接收输入,进行预测或生成回答。
-
Parse(解析):规范化模型输出。比如将模型输出格式化为 JSON。
- Chains
“链条”用于将多个组件组合成一个完整的流程,方便链式调用。
- RAG
对应RAG:检索外部数据,作为参考信息输入LLM辅助生成答案

- Source:多种类型的数据源:视频、图片、文本、代码、文档等。
- Load:将多源异构数据统一加载为文档对象。
- Transform:对文档进行转换和处理,比如将文本切分为小块。
- Embed:将文本编码为向量。
- Store:将向量化后的数据存储起来。
- Retrieve:从文本库中检索相关的文本段落。
- Agents
Agent 自主规划执行步骤并使用工具来完成任务。

二、Model I/O
2.1 介绍
Model I/O 部分是与语言模型进行交互的核心组件,包括输入提示(Prompt Template)、调用模型(Model)、输出解析(Output Parser)。简单来说,就是输入、处理、输出这三个步骤。
2.2 调用模型
2.2.1 直接调用在线大模型
- 设置环境变量
我的windows电脑,设置环境变量如下(主要是避免大模型api-key明文写在代码里),通过os.getenv获取api-key:

- 调用测试
import os
from openai import OpenAI
client = OpenAI(
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
api_key=os.getenv("aliQwen-api"),
)
completion = client.chat.completions.create(
model="qwen-plus",
messages=[{"role": "user", "content": "你是谁"}],
)
print(completion.choices[0].message.content)

2.2.2 LangChain API调用模型
通常通过聊天模型接口访问 LLM,该接口通常以消息列表作为输入并返回一条消息作为输出。
输入:接受文本 PromptValue 或消息列表 List[BaseMessage],每条消息需指定角色(如 SystemMessage、HumanMessage、AIMessage)
输出:返回带角色的消息对象(BaseMessage 子类),通常是 AIMessage
import os
from langchain.chat_models import init_chat_model
from langchain.messages import SystemMessage, HumanMessage, AIMessage
llm = init_chat_model(
model="qwen-plus",
model_provider="openai",
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
api_key=os.getenv("aliQwen-api"),
)
messages = [
SystemMessage(content="你是一个诗人"),
HumanMessage(content="写一首关于春天的诗"),
]
resp = llm.invoke(messages)
print(type(resp)) # <class 'langchain_core.messages.ai.AIMessage'>
print(resp.content)

2.2.3 模型初始化相关参数
初始化一个模型最简单的方法就是使用 init_chat_model,并设置必要的参数,例如 API-Key 和模型名称。除此之外还有一些其他参数。
| 参数 |
说明 |
| model |
模型名称或标识符 |
| base_url |
发送请求的 API 端点的 URL。常由模型的提供商提供 |
| api_key |
与模型提供商进行身份验证所需的 API 密钥 |
| temperature |
控制模型输出的随机性。数字越高,回答越有创意;数字越低,回答越确定 |
| timeout |
在取消请求之前,等待模型响应的最大时间(以秒为单位) |
| max_tokens |
限制响应中的总tokens 数量,控制输出长度 |
| max_retries |
请求失败时系统尝试重新发送请求的最大次数 |
2.2.4 对话模型的 Message
对话模型的输入可以是文本提示、消息提示或是字典格式。
- 文本提示是字符串,适用于不需要保留对话历史的直接生成任务。
-
消息提示是将消息对象列表输入模型,方便管理对话历史,包含系统指令以及处理多模态数据。
-
字典格式可以按照 OpenAI 聊天补全格式创建字典列表组成消息。一条消息通常包含 role(角色)、content(内容)、metadata(元数据)。
消息类型如下(HumanMessage、AIMessage 和 SystemMessage 是常用的消息类型。
ToolMessage 是在工具调用场景下才会使用的特殊消息类型。):
| 消息类型 |
描述 |
| SystemMessage |
代表一组初始指令,用于引导模型的行为。可以使用系统消息来设定语气、定义模型的角色,并建立响应的指导方针 |
| HumanMessage |
表示用户输入 |
| AIMessage |
模型生成的响应,包括文本内容、工具调用和元数据 |
| ToolMessage |
表示工具调用的输出 |
2.2.5 调用方法
聊天模型提供了三种主要的调用方法:
| invoke / ainvoke |
将单个输入转换为输出 |
| batch / abatch |
批量将多个输入转换为输出 |
| stream / astream |
从单个输入生成流式输出 |
带有“a”前缀的方法是异步的,需要与 asyncio 和 await 语法一起使用以实现并发。
2.2.5.1 非流式/流式输出
在Langchain中,语言模型的输出分为了两种主要的模式:流式输出与非流式输出。
- 非流式输出:用户提出需求请编写一首诗,系统在静默数秒后突然弹出了完整的诗歌。如同一种“提交请求,等待结果”的流程,实现简单,但体验单调。
- 流式输出:用户提问,请编写一首诗,当问题刚刚发送,系统就开始一字一句(逐个token)进行回复,更像是“实时对话”,贴近人类交互的习惯。
import os
from langchain.chat_models import init_chat_model
llm = init_chat_model(
model="qwen-plus",
model_provider="openai",
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
api_key=os.getenv("aliQwen-api"),
)
messages = [
{"role": "system", "content": "你是一名数学家"},
{"role": "user", "content": "请证明以下黎曼猜想"},
]
# resp = llm.invoke(messages)
# print(resp.content)
# 使用 stream() 方法流式输出
for chunk in llm.stream(messages):
# 逐个打印内容块,并刷新缓冲区以即时显示内容
print(chunk.content, end="", flush=True)
2.2.5.2 批量调用
将一组独立的请求批量发送给模型并行处理。batch 默认没有依赖底层 API 的原生批量接口,而是使用线程池并行执行多个 invoke()。所以它对 IO 密集型任务(如调用远程 LLM API)很有效。
import os
from langchain.chat_models import init_chat_model
llm = init_chat_model(
model="qwen-plus",
model_provider="openai",
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
api_key=os.getenv("aliQwen-api"),
)
messages = [
[
{"role": "system", "content": "你是一位诗人"},
{"role": "user", "content": "写一首关于春天的诗"},
],
[
{"role": "system", "content": "你是一位诗人"},
{"role": "user", "content": "写一首关于夏天的诗"},
],
[
{"role": "system", "content": "你是一位诗人"},
{"role": "user", "content": "写一首关于秋天的诗"},
],
]
resp = llm.batch(messages) # 批量调用,返回一个消息列表
print(resp)
2.2.5.3 同步/异步调用
import os
import time
from langchain.chat_models import init_chat_model
llm = init_chat_model(
model="qwen-plus",
model_provider="openai",
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
api_key=os.getenv("aliQwen-api"),
)
messagess = [
[
{"role": "system", "content": "你是一位诗人"},
{"role": "user", "content": "写一首关于春天的诗"},
],
[
{"role": "system", "content": "你是一位诗人"},
{"role": "user", "content": "写一首关于夏天的诗"},
],
[
{"role": "system", "content": "你是一位诗人"},
{"role": "user", "content": "写一首关于秋天的诗"},
],
]
start_time = time.time()
resps = [llm.invoke(messages) for messages in messagess]
print(resps)
end_time = time.time()
print(f"Total time: {end_time - start_time}")
# Total time: 18.67403507232666
import os
import time
import asyncio
from langchain.chat_models import init_chat_model
llm = init_chat_model(
model="qwen-plus",
model_provider="openai",
base_url="https://dashscope.aliyuncs.com/compatible-mode/v1",
api_key=os.getenv("aliQwen-api"),
)
messagess = [
[
{"role": "system", "content": "你是一位诗人"},
{"role": "user", "content": "写一首关于春天的诗"},
],
[
{"role": "system", "content": "你是一位诗人"},
{"role": "user", "content": "写一首关于夏天的诗"},
],
[
{"role": "system", "content": "你是一位诗人"},
{"role": "user", "content": "写一首关于秋天的诗"},
],
]
async def async_invoke():
tasks = [llm.ainvoke(messages) for messages in messagess]
return
1215



被折叠的 条评论
为什么被折叠?



