【AI大模型应用开发】【LangChain系列】实战案例6:利用大模型进行文本总结的方法探索,文本Token超限怎么办?

  • 大家好,我是同学小张,日常分享AI知识和实战案例
  • 欢迎 点赞 + 关注 👏,持续学习,持续干货输出。
  • +v: jasper_8017 一起交流💬,一起进步💪。
  • 微信公众号也可搜【同学小张】 🙏

本站文章一览:

在这里插入图片描述


假设有一组文档(PDF、Notion页面、客户问题等),你想要总结内容。可以利用大模型来帮你。今天来系统看下利用大模型来对文本进行总结的方法,以LangChain的使用为例。

参考:https://python.langchain.com/docs/use_cases/summarization

0. 方法概述

在利用大模型总结文本的过程中,最主要的工作是如何将文档内容传递给大模型。目前有两种常见的方法:

  1. Stuff方法:简单地将所有文档“填充”到单个提示中。这种方法的主要优点是简单,但缺点是当文档很长或数量很多时,可能会超出模型的上下文窗口限制,导致信息丢失或模型性能下降。

  2. Map-reduce方法:这种方法分为两步。首先,在“map”步骤中,单独对每个文档进行摘要。然后,在“reduce”步骤中,将这些摘要合并成一个最终摘要。这种方法的主要优点是它可以处理大量或长文档,因为它在合并之前先对它们进行了压缩。但是,这种方法可能需要额外的逻辑来确保在“reduce”步骤中生成的最终摘要是有意义和连贯的。

在这里插入图片描述

1. 实操练习

1.1 快速开始

1.1.1 代码示例

from langchain
【LangChain系列】实战案例6:利用大模型进行文本总结的方法探索,文本Token超限怎么办? 在利用大模型总结文本的过程中,最主要的工作是如何将文档内容传递给大模型。Stuff方法:简单地将所有文档“填充”到单个提示中。这种方法的主要优点是简单,但缺点是当文档很长或数量很多时,可能会超出模型的上下文窗口限制,导致信息丢失或模型性能下降。Map-reduce方法:这种方法分为两步。首先,在“map”步骤中,单独对每个文档进行摘要。然后,在“reduce”步骤中,将这些摘要合并成一个最终摘要。这种方法的主要优点是它可以处理大量或长文档,因为它在合并之前先对它们进行了压缩。 阅读详情

相关推荐

MCP Token超限问题实战:LangChain与LangGraph双方案解析

本文深入探讨了MCP Token超限问题的技术痛点,并提供了LangChain与LangGraph两种解决方案。LangChain通过工具级精准控制和智能摘要生成,有效压缩数据并保留关键信息;LangGraph则利用消息级全局管控和轻量级压缩算法,实现高效处理。文章还对比了两种方案的技术特性,并给出了实战选型建议。

weixin_29268637的博客 380

MCP Token超限问题解决方案

是一个开放标准,允许AI模型安全地连接到外部数据源和工具。MCP服务器可以提供丰富的工具集合,如GitHub仓库查询、数据库操作、文档检索等。然而,MCP工具经常返回大量数据(如完整的GitHub文档、API响应等),直接传递给LLM会导致token超限错误。优先选择 LangGraph + pre_model_hook 方案✅ 原生框架支持,代码简洁✅ 更好的长期维护性✅ 与LangGraph生态系统深度集成使用 LangChain + _aperform_agent_action 方案。

信马堂 2418

AI大模型应用开发全栈教程:从Python基础到RAG与低代码平台实战

这次我们来看一套完整的AI大模型应用开发课程。这套课程名为“AI大模型应用开发(全集教程)”,内容覆盖了从Python基础、Prompt工程到RAG、Coze、Dify等主流应用开发框架,共计21节。对于想系统学习如何将大模型技术落地到实际项目中的开发者来说,这是一个非常全面的学习资源。 课程的核心价值在于它提供了一个从理论到实践的完整路径。它不局限于某个单一模型或工具,而是围绕“应用开发”这个目标,串联起了编程语言、提示词技巧、知识库构建、低代码平台和开源框架等多个关键环节。无论你是想快速搭建一个AI助手

weixin_30323631的博客 417

Python+AI大模型应用开发全链路拆解:从语法到RAG实战

在人工智能技术加速落地的今天,掌握Python与大模型应用开发已成为工程实践的热门方向。从基础的Python语法、数据处理,到调用大模型API、设计Prompt、搭建RAG检索增强生成流程、编排Agent工具,形成了一条完整的技术链路。这套技能不仅能将模型能力封装为可靠的产品功能,更能应用于智慧农业等真实场景,实现数据驱动的智能决策。本文以一套系统课程路径为例,拆解各阶段实操要点与常见陷阱,帮助开发者快速定位学习重心,少走弯路,最终独立完成端到端的AI应用项目。

weixin_29050513的博客 330

AI大模型应用开发实战:从Prompt工程到RAG系统构建

如果你是一名开发者,最近一定被各种AI大模型的消息刷屏。从ChatGPT到Claude,从文心一言到通义千问,模型能力日新月异。但一个更现实的问题摆在面前: 这些强大的模型,如何真正变成你手里能解决实际业务问题的应用? 是继续在网页聊天框里手动提问,还是写几百行代码从头封装API?对于大多数开发者来说,从“知道大模型很牛”到“做出一个可用的AI应用”,中间隔着一道巨大的工程化鸿沟。 这正是“AI大模型应用开发”成为当下最热门技能的原因。它不是一个飘在空中的概念,而是一套将大模型能力产品化、服务化的具体工程方

weixin_34279246的博客 381

从零构建大模型应用:云端API调用、LangChain实战与本地Ollama部署指南

大语言模型(LLM)作为当前人工智能的核心技术,通过其强大的自然语言理解和生成能力,正在深刻改变软件开发的范式。其工作原理基于Transformer架构,通过海量数据预训练获得通用知识,再通过提示词工程(Prompt Engineering)进行任务适配。这项技术的核心价值在于,它极大地降低了开发者构建智能应用的门槛,使得非专家也能快速集成对话、创作、分析等高级AI功能。典型的应用场景包括智能客服、内容生成、代码辅助和数据分析助手等。本文聚焦于大模型应用开发的工程实践,详细介绍了如何从调用云端API(如Op

weixin_33901926的博客 491

langchain agent简单使用;文档总结load_summarize_chain

参考:https://zhuanlan.zhihu.com/p/641384348测试下来总结效果一般,速度也比较慢##加载数据loader = UnstructuredFileLoader(r"C:\Users\loo***资料.txt")#创建llm##运行。

weixin_42357472的博客 1244

load_summarize_chain ,load_qa_chain 是什么

load_summarize_chain ,load_qa_chain 是什么 `load_summarize_chain` `load_qa_chain` 其他构建链的方式 SequentialChain, TransformChain

ZhangJiqun&191cm&85kg 378

大模型应用开发实战:从LangChain到RAG与Agent的完整路径

大语言模型(LLM)应用开发正成为软件工程师的新赛道。要构建稳定可靠的大模型应用,开发者需要掌握提示工程、框架封装、知识库增强与智能体设计等核心能力。提示工程确保模型输出可控,LangChain将模型调用工程化,RAG让模型回答私有数据,Agent则使模型具备多步任务处理能力。从结构化输出到多轮对话,再到企业知识库问答,每一环节都面临实际挑战。本文基于吴恩达LLM系列课程,梳理开发者在实战中遇到的常见问题与解决方案,帮助后端工程师快速构建生产级AI应用。

weixin_28743405的博客 251

机器学习【学校智慧食堂及其应用】

本文主要介绍机器学习【智慧食堂及其应用】

qq_201729558 2582

PSOC Creator 入门教程超详细

最近工作原因需要使用到赛普拉斯的一款芯片,奈何以前没有用过,所以趁这次也学习了一些简单的用法,总结一下,希望能帮到有需要朋友,因为网上关于这方面的文章少的可怜,详细点的更是少之又少!废话少说,正文开始.

qm_mq的博客 5752

Creo报错代码-9?手把手教你重新生成许可证文件(基于Creo 10.0)

本文详细解析Creo报错代码-9的成因及解决方案,重点介绍如何重新生成许可证文件以应对网络环境变化导致的验证失败。通过分步指南和高级技巧,帮助用户有效管理多网络环境下的Creo许可证问题,提升工作效率。

weixin_30839881的博客 569

5分钟搞定PettingZoo多智能体环境搭建:从安装到运行第一个Demo

本文详细介绍了如何在5分钟内完成PettingZoo多智能体环境的搭建,从安装到运行第一个Demo。通过精准的版本控制和常见问题解决方案,帮助开发者快速上手多智能体强化学习(MARL)环境配置,并提供了实战案例和性能优化技巧。

backprop5master的博客 224

Veeam Backup 13 通过UI界面高效备份VMware ESXi虚拟机的完整指南

本文提供了一份使用Veeam Backup 13图形化界面高效备份VMware ESXi虚拟机的完整指南。内容涵盖从环境准备、添加vCenter/ESXi主机、配置备份存储库,到创建备份任务、设置保留策略与计划,以及执行备份和验证成功的关键步骤。通过直观的UI操作,管理员可以轻松实现虚拟机数据的可靠保护与快速恢复。

weixin_29322553的博客 446

5G物理层基础知识

1、关于RB和RE (1) RB(Resource Block,资源块)频率上连续12个子载波,时域上一个slot(时隙,14个ofdm符号) (2) RE(Resource Element,资源单元)频率上一个子载波,及时域上一个ofdm符号 注意:协议规定,5G每个时隙(非扩展CP)的符号数为14个(扩展CP情况下每个时隙有12个符号),而LTE(非扩展CP)每个时隙的符号数为7个。 简单说:一个12X14的方格,大的整个叫一个RB,每一个小块叫一个RE。另外,一个RE可存放一个调制符号(mo.

qq_39074243的博客 2万+

【ArcGIS风暴】ArcGIS 10.2导入Excel数据X、Y坐标(经纬度、平面坐标),生成Shapefile点数据图层

用过CASS的人都知道,野外数字测图得到的点数据(平面坐标)可以直接导入到CASS中,进一步绘制地形图。那么,带有坐标的数据能不能在ArcGIS中实现点图层的生成呢?答案是必须的! 本文以气象台站shp数据的生成为例,详细介绍ArcGIS 10.2中导入X、Y坐标(这里指的是经度、纬度),生成Shapefile点数据的流程。 相关阅读:《全站仪、RTK测量坐标数据在CASS和ArcGIS中展点的区别和联系》 目录 1、数据准备 2、添加X、Y数据 3、属性表连接(Join) 4、导出为Sh.

智慧空间实验室 10万+

SAP ABAP Append structure 介绍

所有在 append structure 上增强的字段都是 append structure 的一部分,这意味着对这些增强所做的任何更改仅仅施加在 append structure 上,而不会影响被增强的 ABAP DDIC 结构。这同样适用于 transport. 激活数据库表或结构时,会找到所有关联的 append structure,并将它们的组件附加到数据库表或结构。Append structure(附加结构)是 ABAP 字典中附加到另一个结构或数据库表并将其组件附加到它们的结构。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 1172

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

vb 6.0并口开发操作实例

vb6并口开发,简体中文,试例内有inpout32.dll动态链接库

上一篇: 【Python+微信】【企业微信开发入坑指北】4. 企业微信接入GPT,只需一个URL,自动获取文章总结
下一篇: 【工具使用】QGIS导入csv文件进行数据可视化
同学小张
博客等级 码龄12年 1万+粉丝 284原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

同学小张

如果觉得有帮助,欢迎给我鼓励!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
⌂ 换网址