InternLM Camp4 L1G400 InternLM + LlamaIndex RAG 实践

梯度爆炸(Gradient Explosion)详解 梯度爆炸的本质是反向传播中雅可比矩阵连乘导致梯度指数增长,当谱半径 > 1 时,仅需数十层即引发数值溢出。其根源在于深层网络缺乏稳定梯度通路,尤其在 RNN、深前馈网或初始化不当场景下显著。应对策略以梯度裁剪(如 clip_grad_norm_)为首选,辅以残差连接、归一化、合理初始化(如 He/Xavier),并结合监控 grad_norm 曲线实现早发现、早干预。 阅读详情

本任务需要使用30%A100开发机


前言

本博客是第四期书生大模型实战营基础岛的第四个大任务。我们需要基于 LlamaIndex 构建自己的 RAG 知识库,让 InternLM2-Chat-1.8B 或者浦语API之前不会回答的问题现在会回答了。


一、LlamaIndex+InternLM API

RAG工作原理
RAG的基本原理如上图所示,它能够让基础模型实现非参数知识更新,无需训练就可以掌握新领域的知识。本次课程选用了LlamaIndex框架。LlamaIndex 是一个上下文增强的 LLM 框架,旨在通过将其与特定上下文数据集集成,增强大型语言模型(LLMs)的能力。

1.环境、模型准备

1.1.配置基础环境

创建一个30%开发机,点击进入开发机选项。
进入开发机后,创建新的conda环境,命名为 llamaindex,在命令行模式下运行:

conda create -n llamaindex python=3.10
conda activate llamaindex
pip install einops==0.7.0 protobuf==5.26.1

配置基础conda环境

1.2.安装 Llamaindex

安装 Llamaindex和相关的包

conda activate llamaindex
pip install llama-index==0.11.20
pip install llama-index-llms-replicate==0.3.0
pip install llama-index-llms-openai-like==0.2.0
pip install llama-index-embeddings-huggingface==0.3.1
pip install llama-index-embeddings-instructor==0.2.1
pip install torch==2.5.0 torchvision==0.20.0 torchaudio==2.5.0 --index-url https://download.pytorch.org/whl/cu121

llamaindex环境

1.3.下载 Sentence Transformer 模型

运行以下指令,新建一个python文件

cd ~
mkdir llamaindex_demo
mkdir model
cd ~/llamaindex_demo
touch download_hf.py

打开download_hf.py 贴入以下代码

import os
os.environ['HF_ENDPOINT'] = 'https://hf-mirror.com'
os.system('huggingface-cli download --resume-download sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 --local-dir /root/model/sentence-transformer')

创建下载模型的脚本程序

然后,在 /root/llamaindex_demo 目录下执行该脚本即可自动开始下载:

cd /root/llamaindex_demo
conda activate llamaindex
python download_hf.py

下载模型
模型下载因为网络问题,可能会出现中断。需要多次尝试。

1.4 下载 NLTK 相关资源

使用开源词向量模型构建开源词向量的时候,需要用到第三方库 nltk 的一些资源。正常情况下,其会自动从互联网上下载,但可能由于网络原因会导致下载中断(如1.2.3节),此处我们可以从国内仓库镜像地址下载相关资源,保存到服务器上。

cd /root
git clone https://gitee.com/yzy0612/nltk_data.git  --branch gh-pages
cd nltk_data
mv packages/*  ./
cd tokenizers
unzip punkt.zip
cd ../taggers
unzip averaged_perceptron_tagger.zip

之后使用时服务器即会自动使用已有资源,无需再次下载.
下载NLTK

2.是否使用 LlamaIndex 前后对比

2.1.不使用 LlamaIndex RAG(仅API)

运行以下指令,新建一个python文件

cd ~/llamaindex_demo
touch test_internlm.py

打开test_internlm.py 贴入以下代码

from openai import OpenAI
import os
base_url = "https://internlm-chat.intern-ai.org.cn/puyu/api/v1/"
api_key = os.getenv('api_key')
model="internlm2.5-latest"

# base_url = "https://api.siliconflow.cn/v1"
# api_key = "sk-请填写准确的 token!"
# model="internlm/internlm2_5-7b-chat"

client = OpenAI(
    api_key=api_key , 
    base_url=base_url,
)

chat_rsp = client.chat.completions.create(
    model=model,
    messages=[{"role": "user", "content": "xtuner是什么?"}],
)

for choice in chat_rsp.choices:
    print(choice.message.content)

浦语API测试代码

上述代码是要问API,xtuner是什么?
我们需要先获取浦语API的apikey(参考python使用)然后执行以下命令

export api_key="填写你的api key"
conda activate llamaindex
cd ~/llamaindex_demo/
python test_internlm.py

直接调用浦语API
可以看到直接调用浦语API,浦语API无法回答xtuner是什么。

2.2.使用 API+LlamaIndex

我们现在要构建一个知识库,让API能知道xtuner是什么。这里直接选择xtuner的官方readme文档构建知识库。

cd ~/llamaindex_demo
mkdir data
cd data
git clone https://github.com/InternLM/xtuner.git
mv xtuner/README_zh-CN.md ./

运行以下指令,新建一个python文件

cd ~/llamaindex_demo
touch llamaindex_RAG.py

在新建的文件中粘贴以下代码

import os 
os.environ['NLTK_DATA'] = '/root/nltk_data'

from llama_index.core import VectorStoreIndex, SimpleDirectoryReader
from llama_index.core.settings import Settings
from llama_index.embeddings.huggingface import HuggingFaceEmbedding
from llama_index.legacy.callbacks import CallbackManager
from llama_index.llms.openai_like import OpenAILike


# Create an instance of CallbackManager
callback_manager = CallbackManager()

api_base_url =  "https://internlm-chat.intern-ai.org.cn/puyu/api/v1/"
model = "internlm2.5-latest"
api_key = os.getenv('api_key')

# api_base_url =  "https://api.siliconflow.cn/v1"
# model = "internlm/internlm2_5-7b-chat"
# api_key = "请填写 API Key"



llm =OpenAILike(model=model, api_base=api_base_url, api_key=api_key, is_chat_model=True,callback_manager=callback_manager)


#初始化一个HuggingFaceEmbedding对象,用于将文本转换为向量表示
embed_model = HuggingFaceEmbedding(
#指定了一个预训练的sentence-transformer模型的路径
    model_name="/root/model/sentence-transformer"
)
#将创建的嵌入模型赋值给全局设置的embed_model属性,
#这样在后续的索引构建过程中就会使用这个模型。
Settings.embed_model = embed_model

#初始化llm
Settings.llm = llm

#从指定目录读取所有文档,并加载数据到内存中
documents = SimpleDirectoryReader("/root/llamaindex_demo/data").load_data()
#创建一个VectorStoreIndex,并使用之前加载的文档来构建索引。
# 此索引将文档转换为向量,并存储这些向量以便于快速检索。
index = VectorStoreIndex.from_documents(documents)
# 创建一个查询引擎,这个引擎可以接收查询并返回相关文档的响应。
query_engine = index.as_query_engine()
response = query_engine.query("xtuner是什么?")

print(response)

llamaindex API
然后运行以下命令,即可调用rag+api了

export api_key="填写你的api key"
conda activate llamaindex
cd ~/llamaindex_demo/
python llamaindex_RAG.py

调用API和知识库
借助RAG,浦语API就能很详细的回答之前不会回答的"xtuner是什么"的问题了。

二、LlamaIndex+本地部署InternLM

1.LlamaIndex HuggingFaceLLM

运行以下指令,把 InternLM2 1.8B 软连接出来

cd ~/model
ln -s /root/share/new_models/Shanghai_AI_Laboratory/internlm2-chat-1_8b/ ./

运行以下指令,新建一个 python 文件

cd ~/llamaindex_demo
touch llamaindex_internlm.py

打开 llamaindex_internlm.py 贴入以下代码

from llama_index.llms.huggingface import HuggingFaceLLM
from llama_index.core.llms import ChatMessage
llm = HuggingFaceLLM(
    model_name="/root/model/internlm2-chat-1_8b",
    tokenizer_name="/root/model/internlm2-chat-1_8b",
    model_kwargs={"trust_remote_code":True},
    tokenizer_kwargs={"trust_remote_code":True}
)

rsp = llm.chat(messages=[ChatMessage(content="xtuner是什么?")])
print(rsp)

llamaindexllm
运行命令

conda activate llamaindex
pip install llama-index-llms-huggingface
pip install sentencepiece==0.2.0
cd ~/llamaindex_demo/
python llamaindex_internlm.py

llamaindexllm
可以看到,单纯的InternLM1.8B无法正确回答我们的问题。

2.LlamaIndex llm RAG

运行以下指令,新建一个 python 文件llamaindex_internlm_RAG.py

cd ~/llamaindex_demo
touch llamaindex_internlm_RAG.py

写入以下代码:


from llama_index.core import VectorStoreIndex, SimpleDirectoryReader, Settings

from llama_index.embeddings.huggingface import HuggingFaceEmbedding
from llama_index.llms.huggingface import HuggingFaceLLM

#初始化一个HuggingFaceEmbedding对象,用于将文本转换为向量表示
embed_model = HuggingFaceEmbedding(
#指定了一个预训练的sentence-transformer模型的路径
    model_name="/root/model/sentence-transformer"
)
#将创建的嵌入模型赋值给全局设置的embed_model属性,
#这样在后续的索引构建过程中就会使用这个模型。
Settings.embed_model = embed_model

llm = HuggingFaceLLM(
    model_name="/root/model/internlm2-chat-1_8b",
    tokenizer_name="/root/model/internlm2-chat-1_8b",
    model_kwargs={"trust_remote_code":True},
    tokenizer_kwargs={"trust_remote_code":True}
)
#设置全局的llm属性,这样在索引查询时会使用这个模型。
Settings.llm = llm

#从指定目录读取所有文档,并加载数据到内存中
documents = SimpleDirectoryReader("/root/llamaindex_demo/data").load_data()
#创建一个VectorStoreIndex,并使用之前加载的文档来构建索引。
# 此索引将文档转换为向量,并存储这些向量以便于快速检索。
index = VectorStoreIndex.from_documents(documents)
# 创建一个查询引擎,这个引擎可以接收查询并返回相关文档的响应。
query_engine = index.as_query_engine()
response = query_engine.query("xtuner是什么?")

print(response)

运行

conda activate llamaindex
cd ~/llamaindex_demo/
python llamaindex_internlm_RAG.py

llamaindexlllm rag
借助 RAG 技术后,就能获得我们想要的答案了。

三、LlamaIndex web

运行命令

pip install streamlit==1.36.0
cd ~/llamaindex_demo
touch app.py

打开app.py贴入以下代码

import streamlit as st
from llama_index.core import VectorStoreIndex, SimpleDirectoryReader, Settings
from llama_index.embeddings.huggingface import HuggingFaceEmbedding
from llama_index.llms.huggingface import HuggingFaceLLM

st.set_page_config(page_title="llama_index_demo", page_icon="🦜🔗")
st.title("llama_index_demo")

# 初始化模型
@st.cache_resource
def init_models():
    embed_model = HuggingFaceEmbedding(
        model_name="/root/model/sentence-transformer"
    )
    Settings.embed_model = embed_model

    llm = HuggingFaceLLM(
        model_name="/root/model/internlm2-chat-1_8b",
        tokenizer_name="/root/model/internlm2-chat-1_8b",
        model_kwargs={"trust_remote_code": True},
        tokenizer_kwargs={"trust_remote_code": True}
    )
    Settings.llm = llm

    documents = SimpleDirectoryReader("/root/llamaindex_demo/data").load_data()
    index = VectorStoreIndex.from_documents(documents)
    query_engine = index.as_query_engine()

    return query_engine

# 检查是否需要初始化模型
if 'query_engine' not in st.session_state:
    st.session_state['query_engine'] = init_models()

def greet2(question):
    response = st.session_state['query_engine'].query(question)
    return response


# Store LLM generated responses
if "messages" not in st.session_state.keys():
    st.session_state.messages = [{"role": "assistant", "content": "你好,我是你的助手,有什么我可以帮助你的吗?"}]

    # Display or clear chat messages
for message in st.session_state.messages:
    with st.chat_message(message["role"]):
        st.write(message["content"])

def clear_chat_history():
    st.session_state.messages = [{"role": "assistant", "content": "你好,我是你的助手,有什么我可以帮助你的吗?"}]

st.sidebar.button('Clear Chat History', on_click=clear_chat_history)

# Function for generating LLaMA2 response
def generate_llama_index_response(prompt_input):
    return greet2(prompt_input)

# User-provided prompt
if prompt := st.chat_input():
    st.session_state.messages.append({"role": "user", "content": prompt})
    with st.chat_message("user"):
        st.write(prompt)

# Gegenerate_llama_index_response last message is not from assistant
if st.session_state.messages[-1]["role"] != "assistant":
    with st.chat_message("assistant"):
        with st.spinner("Thinking..."):
            response = generate_llama_index_response(prompt)
            placeholder = st.empty()
            placeholder.markdown(response)
    message = {"role": "assistant", "content": response}
    st.session_state.messages.append(message)

运行streamlit run app.py
streamliy
在这里插入图片描述

四、Streamlit+LlamaIndex+浦语API的 Space 部署到 Hugging Face(优秀学员作业)

在这里插入图片描述


总结

本次任务,我们学习了如何使用llamaindex构建自己的RAG知识库。我们对比了不使用RAG的浦语API(或本地InternLM1.8B)和使用RAG的浦语API(或本地InternLM1.8B)的效果。

OpenCV图像去畸变实战指南:从原理到参数调优(附完整代码与效果对比) 本文详细解析了OpenCV图像去畸变的原理与实战方法,对比了三种核心函数(标准、鱼眼、全景模型)的适用场景与效果。重点提供了完整的代码示例,并深入探讨了alpha、焦距、中心点等关键参数的调优技巧,以帮助开发者有效矫正镜头畸变,提升计算机视觉任务精度。 阅读详情

相关推荐

【黑马-产品经理入门基础课笔记】01.认识产品经理

问题定义 ==> 可行性研究 ==> 需求分析。

2401_88466092的博客 1849

AI 写的测试测的是它自己:断言锁死输出,功能改错它也测不出来

AI 生成的测试跑得勤、全绿、上线前不报错,但三个月后维护时发现它已经"测的是自己"——断言用实现逻辑生成期望值,功能改错了测试还是绿的。这篇用一组沙箱演练量"可测性":同一个实现、同一批订单、两版测试(AI 风格·字面量锁死 vs 人写规范·业务谓词),走三组对照。结论反直觉:需求不变时两版测试都绿;需求一演进,A 版测试先误报(锁死输入结构,代码没 bug 却红),"修"完就变成测自己,之后功能改错它照样绿;B 版测试不误报、改错就红。跑得绿不等于测得住。

四六的六专栏 476

[南大ICS]PA1 - 开天辟地的篇章: 最简单的计算机

task PA1.1: 实现单步执行, 打印寄存器状态, 扫描内存 task PA1.2: 实现算术表达式求值 task PA1.3: 实现所有要求, 提交完整的实验报告

qq_42474104的博客 1572

病虫害 AI 诊断可视化实录:三框同屏的流式诊断与五图看板

接上篇病虫害识别系统。AI 诊断从"点按钮等 30 秒"改造成"提示词、思考过程、诊断结论三框同屏流式输出",改造中最有价值的发现是:推理模型的思考框里能看到完整的鉴别诊断推理——模型逐条排除"玉米螟还是草地贪夜蛾",这个过程对植保人员比结论本身更有参考价值。同时把看板从 5 个数字升级成 5 张图。技术栈 SpringBoot3 + LangChain4j + ECharts,文末附实测数据。

qq_45896330的博客 196

SAP采购申请详述;以及采购计划协议/交货计划行

SAP采购申请详述;以及采购计划协议/交货计划行

saplakes的博客 4350

PVE 9.0 保姆级安装及优化教程(换源、网络配置、远程唤醒等)【基础篇】

最近,Proxmox VE 推出了基于 Debian 13 的 9.0 版本。正巧我手头有一台闲置的老电脑,与其闲置,不如装上 PVE,让它化身 All in One,继续发挥它的余热。G4560 算是一颗 NAS 神 U,十几元的售价就能有双核四线程,比起什么 J1900 不知道强到哪里去了,尽管定位上是奔腾处理器,但性能甚至能和同代的酷睿 i3-7100 掰掰手腕,并且它还自带 HD 610 的核显,对于解码的支持也还不错。

zc_mk的博客 7528

React Native 0.84 鸿蒙手写批注实践:AI 辅助生成与真机重构 Pen Kit 一笔成形及动态 NDK 预测

React Native 鸿蒙手写库 react-native-stylus-pen 实现了手写画布、一笔成形与报点预测功能,配套开源项目“智绘手写讲义本”支持讲义圈注、轻触标记与直线规整。通过 HarmonyOS Dev Assistant 生成跨端桥接代码,并在华为畅享 100 Pro Max 真机与 API 26 模拟器上验证,解决了帧内触点合并、笔迹替换及 C 预测库缺失回退等关键问题,实现真机与模拟器双端稳定运行。项目已开源,欢迎交流与贡献。

白天写代码,晚上追AI大模型,偶尔搞点八卦 开源动态|技术干货|实习机会|生态活动 我负责分享,你负责变强 3640

WhatsApp注册流程逆向分析:从协议解析到风控对抗实战

移动应用安全分析的核心在于理解客户端与服务端的交互协议与验证机制。通过逆向工程,可以深入剖析应用的数据加密、传输与身份验证原理,这对于构建安全模型、进行自动化测试和风控策略研究具有重要技术价值。在即时通讯、金融支付等高安全要求场景中,掌握应用注册流程的底层实现是评估其安全性的关键。本文聚焦于使用动态分析工具如Frida进行Hook和流量抓包,结合设备指纹识别与模拟器检测技术,详细解析了大型应用的注册风控体系,为安全研究人员和开发者提供了从环境搭建到实战对抗的完整方法。

weixin_33935636的博客 319

AI辅助评审怎么落地:杭州40个试点的技术细节

原因写得很具体:投标文件普遍存在页数多、数据体量大、格式不统一、排版不规范等情况,系统在文本解析、关键要素提取、深度语义理解等环节面临较大压力,耗时较长,运行效率有待提升。杭州公开了试点细节,不是AI加评审这种口号,而是一套有底座、有边界、有已知缺陷的工程实现。系统的准确率不是靠一次性训练定死的,而是靠真实评审过程持续抬升,每评审一个项目,系统就多一批带标签的难例。对做招投标系统的人来说,这套底座直接决定接口形态:招标文件要拆成可检索的条款项,资质材料要有明确的字段映射,否则比对无从下手。

m0_37802841的博客 327

解答网友疑问:聊聊 SAP MRP 中追溯需求的技术实现

笔者到 SE37 里一查,果然有这个 Function Module,并且在里面设置断点之后,执行事务码 MD09 之后,设置在该 Function Module 内的断点也触发了,看来 ChatGPT 比较靠谱。因为红色区域的显示,是通过用户在 MD09 的 ALV 界面上双击触发的,因此我们直奔用户输入模块,PROCESS AFTER INPUT,在 check_fcode 的实现体内设置断点。通过这种追溯,企业可以了解需求和供应之间的关系,从而优化生产和采购计划,减少库存积压,提升供应链效率。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 1035

一篇文章带你快速入门 MATLAB

文章目录一、认识 MATLAB 界面二、MATLAB 的运行方式三、Matlab 中的窗口1. 命令窗口2. MATLAB的程序编辑窗口3. 工作空间窗口4. 命令历史窗口5. 图形窗口6. 当前目录窗口四、MATLAB的帮助系统1. 帮助命令2. 联机帮助五、其他知识补充1. MATLAB的搜索路径2. 变量命名规则3. M文件命名规则 一、认识 MATLAB 界面 在 MATLAB Desktop 中,工具条取代了菜单和工具栏。应用程序库收纳了 MATLAB 产品系列的应用程序,单一文件应用程序打包为一

南淮北安的博客 5135

AI应用 vs AI Agent:不是能力升级,而是“控制权”的转移

本文揭示AIAgent与AI应用的本质区别:核心在于流程控制权归属——代码决定路径的是AI应用,模型动态决策下一步的是Agent。Agent依赖“感知-规划-行动”闭环,导致成本高、不可控风险大,需通过Harness工程构建约束机制。判断使用场景的关键是任务路径的不确定性:可预判用AI应用,目标明确但路径未知则适合Agent。2026年,真正落地的Agentic系统仍不足一成,技术成熟度远未匹配热潮。

热爱代码的小小码农一只 370

VN1640 CH5 I/O通道终极指南:【从硬件原理—>工程实战—>自动化测试实战】

摘要:本文详细解析Vector VN1640 CH5 I/O通道的硬件原理与工程应用,涵盖模拟输入(AIN)、数字输入(DIN)和数字输出(DOUT)三大功能模块的配置指南。通过硬件隔离设计实现高精度信号采集与驱动控制,重点分析开漏输出特性及保护机制。提供PWM控制、ECU上电时序测试、传感器闭环控制等实战案例的CAPL脚本代码,并强调多设备同步采集的精准性(时间偏差<1µs)。适用于汽车电子HIL测试、ECU信号监测等场景,所有方案均通过实际项目验证。

汽车控制器系统开发、VIL测试、HIL测试、MIL测试、EMS电喷系统标定与开发、热管理系统标定 762

我们用 AI 给 AgentLoop 手搓了一套海底世界探秘游戏,并开源了

前段时间 Ebby Amir,上线了一款 Starry Nightrider 的游戏,玩法是让梵高骑着自行车,穿行在 3D 化的《星月夜》(1889)里。玩家沿途收集光球,送进画里那座教堂尖塔。他并不具备游戏开发的职业背景,但是借助大模型,依旧能开发出一款质量很高的小游戏。

阿里巴巴云原生的博客 290

Probability and Statistics - 4th edition

Probability and Statistics - 4th edition

霍尼韦尔SoftMaster使用说明

霍尼韦尔SoftMaster使用说明

PaddleOCR与PyQt 界面综合案例

本项目基于PaddleOCR与PyQt5实现流水线标签实时识别系统,通过摄像头采集画面,结合置信度过滤(≥0.7)、正则格式筛选及三帧投票策略,有效降低单帧误识别,提升结果稳定性。系统采用模块化设计,实现“采集—识别—标注—统计”全流程可视化,界面简洁,响应实时,具备良好可扩展性,适用于工业场景中的自动化标签识别需求。

2302_80153357的博客 410

Outlook Express 6 (OE6) for Win7/Win8/Win10

英文版 Outlook Express6.0, 兼容Win7/Win10/WinXP,解压就可用。

多模态试驾预约Agent实战案例

本章将实现一个完整的多模态试驾预约Agent应用系统,该系统实现了从多模态输入解析到试驾全流程(预约、调度、调整、信息查询)的闭环处理,适用于汽车试驾预约的智能化服务场景。系 统 概 述该项目“多模态试驾预约Agent”是一个集成多模态交互与试驾全流程管理的系统,主要功能概述如下。1. 多模态输入处理支持文本、语音、图片三种输入方式的解析与处理。(1)文本输入:识别用户意图(如“试驾预约”“价格查询”等),并提供针对性操作建议。

夏天又到了的专栏 404

锂电池充电器电路设计 里面有电路

锂电池充电器电路设计 里面有电路 3.7V升压到5V电路设计。

AI赋能农业水域三维场景快速搭建:造形家框选即生成,解锁动态水流仿真能力

在乡村规划、农田水利设计、湿地文旅开发项目中,农业大棚、河湖沟渠、水库湿地等农业水域场景三维建模,过去常依赖航测倾斜摄影,成本高、周期漫长,还要投入大量人力手动建模。造形家依托 AI 识别能力,仅需框选地图范围,就可以快速生成完整可编辑的农业水域三维场景,还搭载 Flowmap 水流仿真能力,实现水体动态效果模拟,为农业水利规划、项目汇报、数字孪生底座建设提供高效解决方案。

m0_69539167的博客 242

Chrome、Edge、Firefox、MDN 联手给 AI 编程 agent 写了本现代 web 教材

最近在给 agent 工作流配前端能力,模型写出来的页面常年停在 2015 年的手法,这个仓库正面回答了这个问题。Modern Web Guidance 官方宣传图,来自项目博客本周 Top5:astryx(+8,700)、modern-web-guidance-src(+7,015,本期主角)、skills(+4,847)、sure(+4,786)、agent-skills(+3,884)。榜单前五有三个都在干同一件事,给 agent 喂知识,这个信号比任何单个仓库都直白。

Kaiji1126的博客 214

融新 AI 气泡图大师在制造业质检中的落地应用

在制造业的质检环节,面对堆积如山的工程图纸,最让人头疼的往往不是测量本身,而是前期的“打标”工作。传统的 FAI(首件检验)流程中,质检员需要拿着纸质或 PDF 图纸,用红笔一个个圈出尺寸,手动编写气泡编号,再对照公差表录入 Excel。这个过程不仅耗时极长,而且极易出错:漏标一个关键尺寸、看错一行公差、或者编号顺序混乱,都可能导致后续整批产品的误判。特别是在处理大幅面装配图或格式复杂的旧版图纸时,人工肉眼排查的效率瓶颈显得尤为突出。

zxy916740139的博客 508

大语言模型LLM综述解读:从预训练到评测,建立理解 LLM 的技术地图

本文综述大语言模型(LLM)的核心技术脉络,从预训练、适配调优、使用方法到能力评估,系统梳理了模型发展中的关键问题与进展。强调高质量数据、结构设计、指令微调与参数高效方法的重要性,并指出模型“符合人类偏好”不等于“工程正确”。提出需结合外部验证机制评估实际应用能力,尤其在专业领域如网络配置中,应重视格式合规性与约束满足性。

Soari的博客 312

企业内网知识库本地部署AI:档案合同检索的落地踩坑记

单位档案室堆着十几年的合同和公文,找一份三年前的采购协议得翻半天——这个问题我们团队在新疆几家政企单位都遇到过。这篇文章适合正在考虑本地部署大模型做私有知识库的技术负责人和运维工程师看。读完你能搞清楚:内网环境下 RAG 怎么搭、文档解析有哪些坑、以及为什么“数据不出内网”这件事比模型选型更值得先想清楚。先说结论:本地部署知识库不是买个显卡装个模型就完事,真正花时间的是文档清洗和检索调优。本地部署 AI 知识库,模型选型反而是最简单的一步。真正决定成败的是文档解析质量、切分策略和权限设计。

cyxq99的博客 345

RAG 运维与 AI Agent 运维岗位拆解:技术边界、运维对象与能力清单

本文从运维工程视角解析RAG知识库与AIAgent系统的新故障面,提出两大新岗位:RAG侧聚焦数据链路(解析→索引→检索→重排),Agent侧关注行为链路(规划→工具调用→执行→反馈)。两者复用容器、K8s、监控告警等传统底座,新增能力涵盖切分调优、向量库运维、评测流水线、多Agent编排与自动恢复。建议企业先接入AI链路指标,再按能力清单补强短板,推动大模型应用向生产级运维演进。

494

一种针对平铺 Token 语言模型的白箱、先验完备替代方案

序位逻辑(OPLogic)提出一种白箱、先验完备的平铺Token语言模型替代方案,将自然语言建模为分层标注的格点结构。通过双列表⟨P-ID, Z-GE⟩编码字符,短语表示为多列表态射链,验证三公理并构建言-语范畴,证明格点完备性与无幻觉定理。孪生图灵机(TTM)实现全局测序定位,复杂度O(G·D),优于自注意力的O(n²d)。二者代表不同本体论:前者以结构化构造意义,后者以概率逼近。理论根植于融智学(1993–2026)长期积累。

geneculture的专栏 185

明确边界:在AI工程实践中重构自我定位

分析在AI应用的过程中,人应该如何参与进去:通过AI去解决人无法分析的问题,但是这个过程中又需要人去判断,比如安全的边界和决策。从开始无法理解这种情景下存在的一定矛盾性,到通过不断实践后确定自己在整个过程的位置,达到能够更有针对性的补充知识体系的目的。

CC_77123的博客 213

从 RNN 到 GQA:自注意力与多头注意力机制全解析

对比维度RNN / LSTM计算方式逐步串行,依赖上一步隐藏状态矩阵运算,全序列并行任意两位置距离O(n),需逐步传递O(1),一步直达长距离依赖易衰减,梯度消失直接建模,衰减较弱单层复杂度O(n d²)O(n² d)GPU 利用率低,受串行限制高,适合大规模并行可解释性隐藏状态难以直观解读注意力权重可视化直观正是这些优势,让自注意力成为 Transformer 的基石,并进一步支撑起 BERT、GPT 等现代大模型。

weixin_39910711的博客 300

018-摄像头怕黑、雷达怕雾:传感器融合

摄像头怕黑、雷达怕雾,单一传感器都有盲区。讲清融合的思路是把多路信息拧成一股,以及数据级、特征级、决策级三个融合层次的差别。

qq_26003663的博客 160
上一篇: InternLM Camp4 L1G300 浦语提示词工程实践
下一篇: InternLM Camp4 L1G500 XTuner 微调个人小助手认知
Chang_neo
博客等级 码龄6年 150粉丝 14原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
⌂ 换网址