[LangChain] 学习笔记(004):嵌入模型——让机器第一次「算得出」两句话有多像

开源模型应用落地-LangChain实用小技巧-使用Embedding嵌入模型(八) 使用LangChain集成OpenAI的Embedding Model 阅读详情

📌 TL;DR(先看结论)

  1. 嵌入(Embedding)= 把文本压成固定长度的数字向量,让「意思像不像」变成「向量距离近不近」——本质是把语言问题翻译成数学问题,之后才能算相似度、排序、检索。

  2. 它是 RAG 的地基:先向量化,再从库里找最相似的几段喂给大模型。除此之外,语义搜索、去重聚类、推荐、分类全靠它。

  3. 两个必知坑:① 对话模型不一定有 embeddings 接口(DeepSeek 就没有,通常要另配一家);② 换 embedding 模型必须全量重建索引,不同模型的向量空间互不兼容。


前言:机器「看不懂」文字

前三篇我们一直在跟「聊天」打交道:给一句话,模型回一段话。

但换个问题就卡住了:如果你想让机器判断「这两句话意思像不像」,它怎么判断?

机器只认数字。你给它「我喜欢猫」和「我爱猫咪」,它看到的只是两串字符——比不了大小,也算不了距离。

搭这座桥的东西,就叫嵌入。


一、理论:嵌入到底在做什么

1.1 一句话变一串数字嵌入:把一句话压成一个坐标点

生活比喻:把每句话想象成地图上的一个点。「今天好热」和「天气真闷」靠得很近;「今天好热」和「股票跌了」离得很远。 嵌入模型,就是那个把句子放到地图上的绘图师。

"大模型是一种通用的文字预测模型"
            │
            ▼  [ 嵌入模型 ]
[0.00, 0.00, 0.16, 0.00, 0.31, 0.00, 0.22, ...]   ← 128 / 768 / 1024 维

变成向量之后,好处立刻显现:

原来(文字)现在(向量)
没法比较可以算余弦相似度
没法排序可以按相似度排序
没法检索可以找最近邻

1.2 主流嵌入模型

模型特点维度
BAAI/bge 系列中文效果好、开源免费、可本地跑512 / 1024
m3e中文专用、轻量768
text-embedding-3-small/largeOpenAI 云端、效果强、要付费1536 / 3072
nomic-embed-text可用 Ollama 本地跑768

选型口诀:中文优先 bge;要离线选开源;要省事选云端。

1.3 它能用在哪

最主流的是 RAG 检索:

你的问题 ──► 向量化 ──► 向量库里找最相似的 N 段 ──► 拼进提示词 ──► 大模型回答

但不止于此:语义搜索(搜「怎么退款」命中「退货流程」)、去重聚类、推荐、分类打标、异常检测——只要涉及「文本之间比相似度」,都靠它。

1.4 接入:三个方法名就够了

LangChain 把所有嵌入模型抽象成同一个基类,只要求两个方法:

方法作用用在哪
embed_documents(texts)批量转向量建库时(存)
embed_query(text)单条转向量检索时(查)
# ① 本地开源(推荐)
from langchain_huggingface import HuggingFaceEmbeddings
emb = HuggingFaceEmbeddings(model_name="BAAI/bge-small-zh-v1.5")
​
# ② 云端 API
from langchain_openai import OpenAIEmbeddings
emb = OpenAIEmbeddings(model="text-embedding-3-small", api_key="...")
​
# ③ 本地 Ollama
from langchain_ollama import OllamaEmbeddings
emb = OllamaEmbeddings(model="nomic-embed-text")
​
# ↓ 换哪个类,下面代码都一样
vecs = emb.embed_documents(["第一段", "第二段"])
q = emb.embed_query("查询内容")

这就是抽象的价值:换模型 = 换一个类,业务代码一行不动。

1.5 为什么「查」和「存」要分开:query vs 文档

生活比喻:图书馆查书时,你写的是「我要找讲 XX 的书」;书架上贴的标签是「这本书讲的是 XX」。语气不一样,但指向同一主题。

有些模型(尤其 bge)对两者用不同前缀指令效果更好:

为这个句子生成表示以用于检索相关文章:

加上它,召回率通常会明显提升;不加也能用,但等于没用满模型的实力。

但别迷信:到底加不加、加什么,要在你自己的数据上测。工程思维是「效果靠测,不靠猜」。

一个必须知道的事实:DeepSeek 没有 embeddings 接口。很多人接完 DeepSeek 对话,以为也能拿它做向量化,结果找不到 API。所以「对话模型」和「嵌入模型」往往是两家。


二、实战:亲手算一次相似度

2.1 为什么本节不用云端 embedding

DeepSeek 没有 embeddings 接口、OpenAI 要翻墙、本机也没有 HF/Ollama 的 embedding 模型。

所以这段代码用自实现的哈希 n-gram 向量化:零依赖、离线可跑,接口和真实模型完全一致(同样是 embed_documents / embed_query),换模型时业务代码不用改。

2.2 核心代码

import math, hashlib
from typing import List
from langchain_core.embeddings import Embeddings
​
class HashingEmbeddings(Embeddings):
    """字符 n-gram 哈希向量化:零依赖,仅教学/离线用"""
​
    def __init__(self, dim: int = 256):
        self.dim = dim
​
    @staticmethod
    def _hash_index(token: str, dim: int) -> int:
        h = hashlib.md5(token.encode("utf-8")).hexdigest()
        return int(h, 16) % dim          # 稳定映射到某一格
​
    def _embed(self, text: str) -> List[float]:
        vec = [0.0] * self.dim
        text = text.strip().lower()
        for ch in text:                                    # 1-gram:单字
            if ch.strip():
                vec[self._hash_index(ch, self.dim)] += 1.0
        for i in range(len(text) - 1):                     # 2-gram:相邻两字
            gram = text[i:i + 2]
            if gram.strip():
                vec[self._hash_index(gram, self.dim)] += 1.0
        norm = math.sqrt(sum(v * v for v in vec))           # L2 归一化
        if norm > 0:
            vec = [v / norm for v in vec]
        return vec
​
    def embed_documents(self, texts):
        return [self._embed(t) for t in texts]
​
    def embed_query(self, text):
        return self._embed(text)
​
​
def cosine(a, b):
    """已归一化,点积即余弦相似度"""
    return sum(x * y for x, y in zip(a, b))
​
​
emb = HashingEmbeddings(dim=512)
docs = [
    "大语言模型通过预测下一个词来生成文本",
    "嵌入模型把文本转换成向量表示",
    "今天食堂的红烧肉很好吃",
    "向量数据库支持相似度检索",
    "深度学习需要大量的训练数据",
]
doc_vecs = emb.embed_documents(docs)
q_vec = emb.embed_query("文本怎么变成向量?")
​
for score, d in sorted([(cosine(q_vec, dv), d) for dv, d in zip(doc_vecs, docs)],
                       key=lambda x: x[0], reverse=True):
    print(f"{score:.4f}  {d}")

2.3 运行结果运行结果截图

查询与各文档的相似度排序
0.4053  嵌入模型把文本转换成向量表示
0.2392  大语言模型通过预测下一个词来生成文本
0.1867  向量数据库支持相似度检索
0.0485  深度学习需要大量的训练数据
0.0000  今天食堂的红烧肉很好吃

问「文本怎么变成向量」,讲嵌入的那条排第一,讲红烧肉的是 0.0000。

这就是 RAG 检索的全部秘密:向量化 → 算相似度 → 排序 → 取前 K。

2.4 诚实看它的局限字面相似 vs 语义相似

相似度 1.0000  ←  我喜欢吃苹果 vs 我喜欢吃苹果(完全相同)
相似度 0.6472  ←  我喜欢吃苹果 vs 我爱吃苹果(换了个词,同义)
相似度 0.0000  ←  我喜欢吃苹果 vs 今天天气不错(完全无关)

换个词就掉分——因为哈希 n-gram 只看「字面重合」。

而真实 embedding 模型(bge / m3e / text-embedding-3)在海量语料上训练过,能把「苹果」和「iPhone」放到相近位置。

这也说明:向量化用什么模型,直接决定检索质量。 生产环境必须用训练过的 embedding,别自己造。


三、踩坑排查

症状根因解决
AttributeError: no attribute ...没实现两个抽象方法embed_documents/embed_query 都必须实现
相似度全是 0建库和查询用了不同维度/不同实例全流程共用同一个 emb
换模型后检索全乱旧库与新查询的向量空间不兼容换 embedding 必须全量重建索引
中文效果差只用 1-gram,没加 2-gram加 2-gram,或直接用 bge
模型下载卡住HuggingFace 不可达用 ModelScope 镜像 / Ollama / 云端 API
字面像但意思不对用了字面型向量换语义模型(bge-m3、text-embedding-3)

四、本篇小结

  • 嵌入 = 文本 → 固定长度向量,把「语义相似」变成「向量距离近」。

  • 价值:语言问题 → 数学问题,之后才能算相似度、排序、检索。

  • 用途:RAG 检索(主流)、语义搜索、去重聚类、推荐、分类。

  • 接口:embed_documents(存)/ embed_query(查),换模型只换类。

  • query 与文档要分开表示,bge 建议给查询加指令前缀。

  • DeepSeek 无 embeddings 接口;换模型必须重建索引。

完整代码已上传 Gitee:04_embeddings.py


下一篇预告:05 模型平台——Hugging Face 与魔搭社区。模型从哪来、怎么找、怎么判断一个模型值不值得用,一次讲清。

Langchain学习笔记(七):Langchain模型接入与调用 本文是Langchain框架的学习笔记;不是教程!不是教程!内容可能有所疏漏,欢迎交流指正。后续将持续更新学习笔记,分享我的学习心得和实践经验。 阅读详情

相关推荐

探索GPT4All:在LangChain中使用本地嵌入模型

GPT4All为开发人员提供了一种无需依赖外部云服务的方法来实现本地化的聊天机器人。这不仅保护了用户隐私,还减少了对网络连接的依赖。通过LangChain的集成,您可以轻松地实现文本嵌入功能,从而增强自然语言处理能力。GPT4All官方文档# 使用API代理服务提高访问稳定性LangChain文档嵌入模型概念指南。

dsndnwfk的博客 611

使用 Llamafile 和 LangChain 快速构建嵌入式模型

Llamafile 是一种创新的文件格式,它将 LLM(大型语言模型)和其运行时环境打包成一个单一的可执行文件。这种方法大大简化了模型的部署和使用过程,使得即使是非专业人士也能轻松运行复杂的 AI 模型。Llamafile 和 LangChain 的结合为快速部署和使用嵌入式模型提供了一个强大而灵活的解决方案。这种方法不仅简化了复杂 AI 模型的使用过程,还为开发者提供了一个探索和实验的平台。Llamafile 官方文档LangChain 文档Hugging Face 模型库词嵌入技术综述。

ppoojjj的博客 1176

LangChain其它五类组件详解(3)—— 嵌入模型(Embedding models)

本章按照项目中的应用顺序,依次介绍其余四种主要组件Document loaders、Embedding models、Vector stores、Retrievers,再加入一个非主要但常用的Text splitters,并对每个组件给出简单示例。

shao918516的博客 1326

常见的文本嵌入模型文本嵌入模型、langchain

内容生成与处理选择:LLM(如 OpenAI 的理由:提供高质量语义嵌入,适用于复杂文本生成和处理任务。对话与交互选择:聊天模型(如 ChatGPT)理由:能够管理多轮对话和上下文,提供自然的对话体验。信息检索与相似性分析选择:文本嵌入模型(如 Sentence-BERT、OpenAIEmbeddings)理由:高效的语义检索和相似性计算,适用于文档检索和推荐系统。LangChain是一个功能强大的框架,专为构建基于大型语言模型的应用程序设计。令牌使用效率低:可以通过使用Tiktoken。

zc621_的博客 4998

Nexus3国内高速下载指南:多版本全平台资源汇总

本文针对国内开发者从官网下载Nexus 3速度慢、易失败的问题,提供了详尽的解决方案。汇总了Windows、Linux、macOS等多个平台的Nexus 3历史及最新版本(如3.31.1)的国内高速下载链接,并附有版本选择建议与Linux环境下的快速启动指南,帮助用户高效获取和部署这一流行的仓库管理工具。

jwt8token的博客 440

保姆级教程:用Unidbg搞定阿里系App的x-sign和长x-mini-wua签名(附完整Java代码)

本文详细介绍了如何使用Unidbg框架模拟执行阿里系App的原生库,生成关键的x-sign和x-mini-wua签名参数。通过完整的Java代码示例和实战技巧,帮助开发者高效实现签名算法,适用于安全研究、数据分析和第三方应用开发场景。

weixin_29243279的博客 501

LangChain-11嵌入模型(Embeddings Model)

嵌入模型是LangChain中将文本转换为数字向量的核心组件,主要用于语义理解和文本处理。它解决了计算机无法直接理解文本的难题,通过将文本转换为密集向量,实现语义相似度计算、同义词识别和上下文感知。 LangChain支持多种嵌入模型: OpenAI模型(如text-embedding-ada-002)提供高质量的通用嵌入 HuggingFace模型(如中文专用text2vec-base-chinese)支持多语言和特定领域优化 本地模型适合离线或隐私敏感场景 嵌入模型具有语义保持性、上下文敏感性、维度高效

d3y1`5 81_09 719

将点云坐标转换成世界坐标的demo

将点云坐标转换成世界坐标的demo

howard789的博客 2216

大模型从入门到应用——LangChain:模型(Models)-[文本嵌入模型:Embaas、Fake Embeddings、Google Vertex AI PaLM等]

本文将介绍如何在LangChain中使用Embedding类。Embedding类是一种与嵌入交互的类。有很多嵌入提供商,如:OpenAI、Cohere、Hugging Face等,这个类旨在为所有这些提供一个标准接口。嵌入创建文本的向量表示会很有用,因为这意味着我们可以在向量空间中表示文本,并执行类似语义搜索这样的操作。

冯·诺依曼 1万+

NY8A053E 例程 之 PWM Ouput

更多关于NY8A053E的相关例程请留言!

倪彬笑阳的博客 2931

【LabVIEW】解决.NET版本冲突:winMIF兼容性报错与NI ADE部署支持包的应用

本文详细解析了LabVIEW开发中遇到的winMIF与.NET 4.8兼容性报错问题,并提供了通过NI ADE Deployment Support支持包的完整解决方案。文章涵盖问题诊断、支持包安装步骤、安装程序重建方法及进阶排查技巧,帮助开发者快速解决软件部署中的版本冲突问题。

weixin_29300931的博客 495

【Python】langchain-huggingface 库:将 Hugging Face 的模型和工具集成到 LangChain 框架

langchain-huggingface 是 LangChain 生态系统的一个子库,专门用于将 Hugging Face 的模型和工具集成到 LangChain 框架中。LangChain 是一个用于构建基于语言模型的应用程序的框架,而 langchain-huggingface 提供了与 Hugging Face Hub 上的预训练模型、分词器和嵌入模型的无缝连接,支持文本生成、聊天、嵌入生成等任务。它特别适合需要利用 Hugging Face 生态系统中的开源模型(如 LLaMA、Mistral、B

彬彬侠的博客 2448

封装CTP API为Java SDK

本文介绍了在Windows环境下使用Java调用CTP API的编译实现过程。首先需要准备CTP API SDK、JDK、SWIG和Visual Studio等工具,配置好开发环境。然后通过搭建目录结构、编写SWIG接口文件ctp.i,实现C++到Java的代码转换。文中详细说明了文件目录组织方式,并提供了处理中文乱码的代码示例。通过这一系列步骤,最终将CTP的C++接口转换为Java可调用的形式,为Java项目获取期货实时报价数据提供支持。

weixin_43952815的博客 1227

LangChain学习笔记

LangChain是一个用于开发由大型语言模型(LLM)驱动的应用程序的框架。开发:使用LangChain的开源组件和第三方集成构建您的应用程序。使用LangGraph构建具有顶级流式传输和人类参与支持的状态化代理。生产化:使用LangSmith检查、监控和评估您的应用程序,从而能够持续优化并放心部署。部署:通过LangGraph平台,将您的 LangGraph 应用程序转化为生产就绪的 API 和助手。

m0_54153031的博客 1853

SAP_ABAP_SD_BAPI清单案例教程——销售订单开票_BAPI_BILLINGDOC_CREATEMULTIPLE_VF01_S4版本

SAP BAPI(Business Application Programming Interface)是SAP系统中的一组规范和标准,用于从SAP系统中获取数据、输入数据和更新数据。这些API允许开发者以编程方式与SAP系统交互,而无需编写大量的自定义代码。2.1 Copy代码 直接可使用。2.2 VF01开票。

java_zhong1990的专栏 2217

基于STM32、HAL库的RN8209D电能计量芯片驱动程序设计

/ 假设电压互感器变比为220V:0.5V,电流互感器变比为20A:5mA。// 电压ADC原始值。// 电流ADC原始值。// 有功功率(W)// 电能(kWh)

corlin6688的博客 472

LangChain 文本嵌入模型全攻略:从基础应用到自定义实现

文本嵌入是将自然语言转换为稠密向量的过程,这些向量能够在高维空间中表达文本的语义关系。简单来说,意思相近的文本在向量空间中的距离更近,而语义无关的文本距离更远。在 LangChain 中,Embeddings类为所有嵌入模型提供了统一接口,支持 OpenAI、Hugging Face、Cohere 等多种提供商。当内置嵌入模型无法满足需求时,我们可以自定义嵌入类。:处理文档列表:处理单个查询和。

佑瞻的博客 994

ssm框架搭建

这个是一个在idea上成功跑起来的ssm框架项目,保存在这里方便以后使用直接下载

《使用 LangChain 进行大模型应用开发》学习笔记(三)

本课程介绍了强大且易于扩展的 LangChain 框架,LangChain 框架是一款用于开发大语言模型(LLM)应用的开源框架,其使用提示词、记忆、链、代理等简化了大语言模型应用的开发工作。

wwtg9988的博客 1603

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

YandexGPT嵌入模型在LangChain中的应用:深入探讨与实践指南

YandexGPT是由Yandex开发的强大语言模型,其嵌入功能可以生成高质量的文本向量表示。通过LangChain,我们可以轻松地将YandexGPT嵌入模型集成到各种NLP应用中。YandexGPT嵌入模型为NLP任务提供了强大的工具。通过LangChain,我们可以轻松地将这些嵌入应用于各种场景,如文本分类、语义搜索和文档相似度计算。LangChain官方文档Yandex Cloud AI服务文档向量数据库和检索系统教程深度学习for NLP课程。

qq_29929123的博客 1167

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

使用Clarifai和LangChain构建强大的AI应用:从嵌入到语言模型

Clarifai是一个全面的AI平台,提供从数据探索、数据标注、模型训练、评估到推理的完整AI生命周期支持。它的强大之处在于其广泛的预训练模型库和灵活的自定义选项。LangChain是一个用于开发以语言模型为中心的应用程序的框架。它提供了一系列工具和接口,使得构建复杂的AI应用变得更加简单和高效。通过结合Clarifai的强大模型能力和LangChain的灵活框架,我们可以构建出功能丰富、性能优越的AI应用。从文本嵌入到复杂的语言理解任务,这种组合为开发者提供了广阔的可能性。

qq_29929123的博客 1202

【LangChain系列7】【LangChain实战—客服机器人项目】

LangChain给自身的定位是:用于开发由大语言模型支持的应用程序的框架。它的做法是:通过提供标准化且丰富的模块抽象,构建大语言模型的输入输出规范,利用其核心概念chains,灵活地连接整个应用开发流程。这里是LangChain系列的第七篇,通过实战项目:客服机器人来熟悉整个流程。

艰难困苦,玉汝于成。 2540

打造智能对话机器人:用 LangChain 轻松构建 Chatbot

LangChain 是一个开源框架,通过为无缝模型集成、上下文管理和提示工程提供工具,简化了构建这些对话式聊天机器人的过程。

2401_82469710的博客 1274

「LangChain 学习笔记」LangChain大模型应用开发:储存(Memory)

本文介绍了LangChain中的四种记忆模块(Memory)用于增强语言模型的对话连续性:1. ConversationBufferMemory:完整记录所有对话历史,适合需要完整上下文的场景。2. ConversationBufferWindowMemory:仅保留最近N轮对话(K值可调),通过滑动窗口控制记忆量。3. ConversationTokenBufferMemory:基于Token数量动态裁剪早期对话,确保不超过预设的Token上限。

m0_59167353的博客 903

小白学习大模型:“LangChain入门指南”

LangChain是一个强大的框架,旨在帮助开发人员使用语言模型构建端到端的应用程序。它提供了一套工具、组件和接口,可简化创建由大型语言模型 (LLM) 和聊天模型提供支持的应用程序的过程。LangChain 可以轻松管理与语言模型的交互,将多个组件链接在一起,并集成额外的资源,例如 API 和数据库。官方文档:https://python.langchain.com/en/latest/中文文档:https://www.langchain.com.cn/

2501_91386299的博客 1086

深入探索AscendEmbeddings:在LangChain中实现高效文本嵌入

AscendEmbeddings是LangChain库中的一个嵌入模型类,它基于华为Ascend AI处理器优化,能够生成高质量的文本嵌入。这个类提供了同步和异步的API,适用于各种文本嵌入任务。AscendEmbeddings为文本嵌入任务提供了一个强大而灵活的解决方案。它不仅能生成高质量的嵌入,还提供了同步和异步API,适应各种应用场景。Hugging Face Transformers文档LangChain官方文档。

qq_29929123的博客 828

LangChain教程——文本嵌入模型

上篇文章我们学习了,这篇文章我们学习LangChain教程——文本嵌入模型。

霖hero 458
上一篇: [LangChain] 学习笔记(003):三种姿势接入大模型,以及它骗你的那一天
下一篇: [LangChain] 学习笔记(005):几万个模型里怎么挑?HF、魔搭与一套选型公式
DYKP
博客等级 码龄6年 43粉丝 158原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

DYKP

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
⌂ 换网址