(笔记+作业)书生大模型实战营春节卷王班---L2G3000 LMDeploy 量化部署进阶实践

C++笔记之初始化一个对象、实例化一个对象,官方说法辨析 这两件事发生在不同层面:一个在编译期生成类型,一个在运行期(或常量求值期)构造对象。C++ 没有对应机制。在 Java 里,类加载后有"类初始化",即执行。这些都是对象或变量的初始化,不是类本身的初始化。 阅读详情

学员闯关手册:https://aicarrier.feishu.cn/wiki/QtJnweAW1iFl8LkoMKGcsUS9nld
课程视频:https://www.bilibili.com/video/BV13U1VYmEUr/
课程文档:https://github.com/InternLM/Tutorial/tree/camp4/docs/L0/Python
关卡作业:https://github.com/InternLM/Tutorial/blob/camp4/docs/L0/Python/task.md
开发机平台:https://studio.intern-ai.org.cn/
开发机平台介绍:https://aicarrier.feishu.cn/wiki/GQ1Qwxb3UiQuewk8BVLcuyiEnHe
书生浦语官网:https://internlm.intern-ai.org.cn/
github网站:https://github.com/internLM/
InternThinker: https://internlm-chat.intern-ai.org.cn/internthinker
快速上手飞书文档:https://www.feishu.cn/hc/zh-CN/articles/945900971706-%E5%BF%AB%E9%80%9F%E4%B8%8A%E6%89%8B%E6%96%87%E6%A1%A3
提交作业:https://aicarrier.feishu.cn/share/base/form/shrcnUqshYPt7MdtYRTRpkiOFJd;
作业批改结果:https://aicarrier.feishu.cn/share/base/query/shrcnkNtOS9gPPnC9skiBLlao2c
internLM-Chat 智能体:https://github.com/InternLM/InternLM/blob/main/agent/README_zh-CN.md
lagent:https://lagent.readthedocs.io/zh-cn/latest/tutorials/action.html#id2

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

LMDeploy部署模型

Cuda12.2-conda镜像

#1、创建环境
conda create -n lmdeploy  python=3.10 -y
conda activate lmdeploy
conda install pytorch==2.1.2 torchvision==0.16.2 torchaudio==2.1.2 pytorch-cuda=12.1 -c pytorch -c nvidia -y
pip install timm==1.0.8 openai==1.40.3 lmdeploy[all]==0.5.3

pip install datasets==2.19.2

#2、InternStudio环境获取模型
mkdir /root/models
ln -s /root/share/new_models/Shanghai_AI_Laboratory/internlm2_5-7b-chat /root/models
ln -s /root/share/new_models/Shanghai_AI_Laboratory/internlm2_5-1_8b-chat /root/models
ln -s /root/share/new_models/OpenGVLab/InternVL2-26B /root/models

#3、LMDeploy验证启动模型文件
conda activate lmdeploy
lmdeploy chat /root/models/internlm2_5-7b-chat

资源监控

nvidia-smi 
studio-smi 

LMDeploy API部署InternLM2.5

#1、启动API服务器
conda activate lmdeploy
lmdeploy serve api_server \
    /root/models/internlm2_5-7b-chat \
    --model-format hf \
    --quant-policy 0 \
    --server-name 0.0.0.0 \
    --server-port 23333 \
    --tp 1
#powershell:ssh -CNg -L 23333:127.0.0.1:23333 root@ssh.intern-ai.org.cn -p 你的ssh端口号
#浏览器,访问http://127.0.0.1:23333

#2、以命令行形式连接API服务器
#关闭http://127.0.0.1:23333网页,但保持终端和本地窗口不动,按箭头操作新建一个终端。
conda activate lmdeploy
lmdeploy serve api_client http://localhost:23333

#3、以Gradio网页形式连接API服务器
lmdeploy serve gradio http://localhost:23333 \
    --server-name 0.0.0.0 \
    --server-port 6006
#重新端口映射:ssh -CNg -L 6006:127.0.0.1:6006 root@ssh.intern-ai.org.cn -p <你的ssh端口号>
#浏览器:http://127.0.0.1:6006

命令解释:

lmdeploy serve api_server:这个命令用于启动API服务器。
/root/models/internlm2_5-7b-chat:这是模型的路径。
–model-format hf:这个参数指定了模型的格式。hf代表“Hugging Face”格式。
–quant-policy 0:这个参数指定了量化策略。
–server-name 0.0.0.0:这个参数指定了服务器的名称。在这里,0.0.0.0是一个特殊的IP地址,它表示所有网络接口。
–server-port 23333:这个参数指定了服务器的端口号。在这里,23333是服务器将监听的端口号。
–tp 1:这个参数表示并行数量(GPU数量)。

powershell端口:

ssh -CNg -L 23333:127.0.0.1:23333 root@ssh.intern-ai.org.cn -p 你的ssh端口号

浏览器,访问http://127.0.0.1:23333

LMDeploy Lite

LMDeploy 提供了权重量化和 k/v cache两种策略。

设置最大kv cache缓存大小

lmdeploy chat /root/models/internlm2_5-7b-chat --cache-max-entry-count 0.4

设置在线 kv cache int4/int8 量化

lmdeploy serve api_server \
    /root/models/internlm2_5-7b-chat \
    --model-format hf \
    --quant-policy 4 \
    --cache-max-entry-count 0.4\
    --server-name 0.0.0.0 \
    --server-port 23333 \
    --tp 1

cache-max-entry-count 0.4 设置最大kv cache缓存大小
quant-policy 4 设置在线 kv cache int4/int8 量化

W4A16 模型量化和部署

W4A16的量化配置意味着:
权重被量化为4位整数。
激活保持为16位浮点数。

(不建议运行,在InternStudio上运行需要8小时)

lmdeploy lite auto_awq \
   /root/models/internlm2_5-7b-chat \
  --calib-dataset 'ptb' \
  --calib-samples 128 \
  --calib-seqlen 2048 \
  --w-bits 4 \
  --w-group-size 128 \
  --batch-size 1 \
  --search-scale False \
  --work-dir /root/models/internlm2_5-7b-chat-w4a16-4bit

完成作业时请使用1.8B模型进行量化:(建议运行以下命令)

# pip install datasets==2.19.2
lmdeploy lite auto_awq \
   /root/models/internlm2_5-1_8b-chat \
  --calib-dataset 'ptb' \
  --calib-samples 128 \
  --calib-seqlen 2048 \
  --w-bits 4 \
  --w-group-size 128 \
  --batch-size 1 \
  --search-scale False \
  --work-dir /root/models/internlm2_5-1_8b-chat-w4a16-4bit

命令解释:

lmdeploy lite auto_awq: lite这是LMDeploy的命令,用于启动量化过程,而auto_awq代表自动权重量化(auto-weight-quantization)。
/root/models/internlm2_5-7b-chat: 模型文件的路径。
--calib-dataset 'ptb': 这个参数指定了一个校准数据集,这里使用的是’ptb’(Penn Treebank,一个常用的语言模型数据集)。
--calib-samples 128: 这指定了用于校准的样本数量—128个样本
--calib-seqlen 2048: 这指定了校准过程中使用的序列长度—2048
--w-bits 4: 这表示权重(weights)的位数将被量化为4位。
--work-dir /root/models/internlm2_5-7b-chat-w4a16-4bit: 这是工作目录的路径,用于存储量化后的模型和中间结果。

显存占用情况对比

lmdeploy chat /root/models/internlm2_5-7b-chat-w4a16-4bit/ --model-format awq

W4A16 量化+ KV cache+KV cache 量化

同时启用量化后的模型、设定kv cache占用和kv cache int4量化

lmdeploy serve api_server \
    /root/models/internlm2_5-7b-chat-w4a16-4bit/ \
    --model-format awq \
    --quant-policy 4 \
    --cache-max-entry-count 0.4\
    --server-name 0.0.0.0 \
    --server-port 23333 \
    --tp 1

LMDeploy与InternVL2

W4A16 模型量化和部署

conda activate lmdeploy
lmdeploy lite auto_awq \
   /root/models/InternVL2-26B \
  --calib-dataset 'ptb' \
  --calib-samples 128 \
  --calib-seqlen 2048 \
  --w-bits 4 \
  --w-group-size 128 \
  --batch-size 1 \
  --search-scale False \
  --work-dir /root/models/InternVL2-26B-w4a16-4bit

W4A16 量化+ KV cache+KV cache 量化

lmdeploy serve api_server \
    /root/models/InternVL2-26B-w4a16-4bit \
    --model-format awq \
    --quant-policy 4 \
    --cache-max-entry-count 0.1\
    --server-name 0.0.0.0 \
    --server-port 23333 \
    --tp 1

LMDeploy API部署InternVL2

lmdeploy serve api_server \
    /root/models/InternVL2-26B-w4a16-4bit/ \
    --model-format awq \
    --quant-policy 4 \
    --cache-max-entry-count 0.1 \
    --server-name 0.0.0.0 \
    --server-port 23333 \
    --tp 1

LMDeploy之FastAPI与Function call

API开发

conda activate lmdeploy
lmdeploy serve api_server \
    /root/models/internlm2_5-7b-chat-w4a16-4bit \
    --model-format awq \
    --cache-max-entry-count 0.4 \
    --quant-policy 4 \
    --server-name 0.0.0.0 \
    --server-port 23333 \
    --tp 1

完成作业时请使用以下命令

1、
conda activate lmdeploy
lmdeploy serve api_server \
    /root/models/internlm2_5-1_8b-chat-w4a16-4bit \
    --model-format awq \
    --cache-max-entry-count 0.4 \
    --quant-policy 4 \
    --server-name 0.0.0.0 \
    --server-port 23333 \
    --tp 1

2、保持终端窗口不动,按箭头操作新建一个终端。在新建终端中
touch /root/internlm2_5.py
#编辑/root/internlm2_5.py

3、运行模型
conda activate lmdeploy
python /root/internlm2_5.py
#internlm2_5.py
# 导入openai模块中的OpenAI类,这个类用于与OpenAI API进行交互
from openai import OpenAI


# 创建一个OpenAI的客户端实例,需要传入API密钥和API的基础URL
client = OpenAI(
    api_key='YOUR_API_KEY',  
    # 替换为你的OpenAI API密钥,由于我们使用的本地API,无需密钥,任意填写即可
    base_url="http://0.0.0.0:23333/v1"  
    # 指定API的基础URL,这里使用了本地地址和端口
)

# 调用client.models.list()方法获取所有可用的模型,并选择第一个模型的ID
# models.list()返回一个模型列表,每个模型都有一个id属性
model_name = client.models.list().data[0].id

# 使用client.chat.completions.create()方法创建一个聊天补全请求
# 这个方法需要传入多个参数来指定请求的细节
response = client.chat.completions.create(
  model=model_name,  
  # 指定要使用的模型ID
  messages=[  
  # 定义消息列表,列表中的每个字典代表一个消息
    {"role": "system", "content": "你是一个友好的小助手,负责解决问题."},  
    # 系统消息,定义助手的行为
    {"role": "user", "content": "帮我讲述一个关于狐狸和西瓜的小故事"},  
    # 用户消息,询问时间管理的建议
  ],
    temperature=0.8,  
    # 控制生成文本的随机性,值越高生成的文本越随机
    top_p=0.8  
    # 控制生成文本的多样性,值越高生成的文本越多样
)

# 打印出API的响应结果
print(response.choices[0].message.content)

Function call

#1、启动API服务器
conda activate lmdeploy
lmdeploy serve api_server \
    /root/models/internlm2_5-7b-chat \
    --model-format hf \
    --quant-policy 0 \
    --server-name 0.0.0.0 \
    --server-port 23333 \
    --tp 1

#2、Function call,即函数调用功能
touch /root/internlm2_5_func.py
#编辑internlm2_5_func.py
python /root/internlm2_5_func.py
#internlm2_5_func.py
from openai import OpenAI


def add(a: int, b: int):
    return a + b


def mul(a: int, b: int):
    return a * b


tools = [{
    'type': 'function',
    'function': {
        'name': 'add',
        'description': 'Compute the sum of two numbers',
        'parameters': {
            'type': 'object',
            'properties': {
                'a': {
                    'type': 'int',
                    'description': 'A number',
                },
                'b': {
                    'type': 'int',
                    'description': 'A number',
                },
            },
            'required': ['a', 'b'],
        },
    }
}, {
    'type': 'function',
    'function': {
        'name': 'mul',
        'description': 'Calculate the product of two numbers',
        'parameters': {
            'type': 'object',
            'properties': {
                'a': {
                    'type': 'int',
                    'description': 'A number',
                },
                'b': {
                    'type': 'int',
                    'description': 'A number',
                },
            },
            'required': ['a', 'b'],
        },
    }
}]
messages = [{'role': 'user', 'content': 'Compute (3+5)*2'}]

client = OpenAI(api_key='YOUR_API_KEY', base_url='http://0.0.0.0:23333/v1')
model_name = client.models.list().data[0].id
response = client.chat.completions.create(
    model=model_name,
    messages=messages,
    temperature=0.8,
    top_p=0.8,
    stream=False,
    tools=tools)
print(response)
func1_name = response.choices[0].message.tool_calls[0].function.name
func1_args = response.choices[0].message.tool_calls[0].function.arguments
func1_out = eval(f'{func1_name}(**{func1_args})')
print(func1_out)

messages.append({
    'role': 'assistant',
    'content': response.choices[0].message.content
})
messages.append({
    'role': 'environment',
    'content': f'3+5={func1_out}',
    'name': 'plugin'
})
response = client.chat.completions.create(
    model=model_name,
    messages=messages,
    temperature=0.8,
    top_p=0.8,
    stream=False,
    tools=tools)
print(response)
func2_name = response.choices[0].message.tool_calls[0].function.name
func2_args = response.choices[0].message.tool_calls[0].function.arguments
func2_out = eval(f'{func2_name}(**{func2_args})')
print(func2_out)

InternLM2.5将输入’Compute (3+5)*2’根据提供的function拆分成了"加"和"乘"两步,第一步调用function add实现加,再于第二步调用function mul实现乘,再最终输出结果16.

9.Vue前端使用iframe集成帆软报表的单点登录 CPT普通报表的地址:【帆软的服务http】+【/webroot/decision/view/report?【帆软的服务http】+【/webroot/decision/view/form?// fineReportHttp:帆软部署的地址。//如果为ie浏览器则页面加载完成后立即执行。// fineLinkSrc:帆软报表的url。//其他浏览器则重新加载onload事件。// 拿到配置的帆软报表的地址参数。//判断是否为ie浏览器。// 帆软报表登录和打开。// 帆软报表登录和打开。 阅读详情

相关推荐

[工具使用]黑暗引擎FOFA

黑暗引擎FOFAFOFA(点我进入)逻辑运算符搜索子域名domain搜索指定内容的host全部域名bodycert搜索选定应用的网站搜索指定开放端口的IP搜索指定协议的IP搜索IP或者网段的信息搜索指定CSS/JS网站常用的一些内容其他 FOFA(点我进入) 官网这样描述:FOFA是白帽汇推出的一款网络空间资产搜索引擎。它能够帮助用户迅速进行网络资产匹配、加快后续工作进程。例如进行漏洞影响范围分析、应用分布统计、应用流行度排名统计等。 简单理解就是,一个本土加强版shodan,知道某产品在互联网的部署情况、

网络安全知识分享 3万+

(笔记+作业)书生大模型实战营春节卷王班---L1G6000 OpenCompass 评测书生大模型实践

(笔记+作业)书生大模型实战营春节卷王班---L1G6000 OpenCompass 评测书生大模型实践

haidizym的博客 325

实测338MB/s!FPGA与CYUSB3014的Slave FIFO模式实战避坑(附完整固件与源码)

本文详细介绍了FPGA与CYUSB3014在Slave FIFO模式下实现338MB/s高速数据传输的实战经验。通过优化硬件设计、固件配置和GPIF II接口设置,解决了USB3.0双向通信中的关键性能瓶颈,并提供了完整的固件与源码参考。

weixin_30570101的博客 459

LMDeploy 项目使用教程

LMDeploy 是一个开源项目,用于压缩、部署和服务大型语言模型(LLM)。以下是项目的目录结构及其简要介绍: ``` lmdeploy/ ├── .github/ # GitHub 工作流和其他 GitHub 相关配置 ├── autotest/ # 自动化测试脚本和测试用例 ├── benchmark/ # 性能测试脚...

gitblog_00322的博客 617

Xilinx Vitis 2020.1头文件路径配置避坑指南:解决#include找不到文件的常见问题

本文针对Xilinx Vitis 2020.1开发环境中常见的#include头文件找不到问题,提供了系统的避坑指南。文章深入解析了Vitis的头文件搜索机制,对比了通过工程属性GUI、修改编译命令及使用环境变量三种配置方法的优劣与隐藏陷阱,并给出了高级场景的排查流程与工程结构最佳实践,帮助开发者高效解决路径配置难题。

weixin_28831399的博客 574

DTI-ALPS处理笔记

前段时间刚好学习了一下DTI-ALPS处理(diffusion tensor image analysis along the perivascular space ),记录一下,以便后续学习。ALPS是2017年发表在《Japanese Journal of Radiology》的一篇文章首次提出的 (),主要用于无创评估脑内淋巴系统功能的衡量数值。C图和D图中的蓝色部分是投射纤维,绿色部分是联合纤维,红色部分是皮下纤维。

weixin_52073820的博客 4798

L1G3-LMDeploy 课程作业

摘要 本教程展示了使用LMDeploy工具部署和量化InternVL与InternLM大语言模型的过程。主要内容包括:1) 通过Python代码实现InternLM的离线部署和文本生成,演示了不同解码策略(贪心、随机采样、集束搜索等);2) 展示了Top-k和Top-p采样的核心实现代码;3) 使用LMDeploy CLI工具和OpenAI API风格部署模型服务;4) 介绍了APIClient接口的调用方法,包括启动服务和进行推理的完整流程。教程提供了从模型部署到实际应用的全链条技术实现方案。

m0_57280180的博客 452

[VT虚拟化驱动]安装DPC回调检测CPU对VT的支持

文章目录前言一、驱动基本框架二、安装DPC回调三、检测CPU对VT的支持本章代码def.h:DriverEntry.cpputil.cpp 前言 对于VT的介绍网上有很多详细的介绍,这里不再赘述,只需要知道它有比操作系统还高的权限,可以利用这一点进行某些操作,如内存隐藏, 无痕HOOK ,MSR HOOK, 调试或者反调试, 这里直奔主题 一、驱动基本框架 虚拟机设置里虚拟化引擎设置: 新建一个空的WDM工程,平台设置为x64平台,右键属性——>Inf2Cat——>Run Inf2Cat设置

吾无法无天的博客 3914

TC264核心板高效布线技巧全解析学习笔记

为TC264核心板PCB布线,优化铺铜规则:焊盘发散线宽与间距设为0,自动适配大小焊盘,兼顾散热与防吸热。过孔默认24/12mil,布线模式设为阻挡,确保导线与铺铜安全避让。走线间距6mil,BGA扇出由内向外,优先连至排针;电源/GND就近打孔连内层,缩短环路。关键模拟/时钟电路紧贴芯片,走线短且独立。顶层用于长距离IO,底层用于局部连接,内层为电源地平面。电源去耦电容就近布局,减小噪声。底层铺铜后通过过孔连接顶层GND。删除排针丝印,添加3D丝印,完成整体布局。

comyccccc的博客 223

YOLO26升级:CVPR2026 WDAM小波方向注意力+C2PSA,频域高频引导低频暗区复原,小目标检测精度跃升!

将 WDAM 引入 YOLO 的 C2PSA 模块,核心优势在于用极低的计算开销,为模型装上了一个“结构感知”的增强器,尤其适合处理密集小目标与边缘部署场景。

①答疑群聊服务;②YOLO大模型知识问答系统;③计算机视觉论文生成智能体; 382

5、AIX系统硬件管理与故障诊断全解析

本文全面解析了AIX系统的硬件管理与故障诊断方法,涵盖系统管理服务(SMS)的使用、设备兼容性配置、设备配置数据库结构、常用命令如cfgmgr、lsattr、smitty devices的操作详解,并深入介绍了错误日志管理机制,包括errdemon、errpt、errlogger等命令的应用。通过实际案例分析和流程图展示,帮助系统管理员掌握从问题怀疑到诊断执行再到日志清理的完整流程,同时提供注意事项与最佳实践,助力AIX系统的稳定运行与高效维护。

y2z3a4b5c的博客 65

UCOD-MKD论文阅读笔记

论文链接:Github代码:FGC:Fragementation Calculation。

m0_54239393的博客 190

Statistics and Machine Learning Toolbox

Statistics and Machine Learning Toolbox(带书签),MATLAB统计学习工具

黑客笔记安卓APP

以前我怎么都不理解为什么移动互联网取代了传统的互联网,直到今天我才明白,我自己开发的网站,我都不怎么上去看视频,导致我的课时进度基本上停滞不前,但是我开发了安卓APP之后,我的学习进度一下子就上去了,一节课就5-10分钟,中午睡前看一看,晚上睡前看一看,梦里自己都能化身成黑客。我一般也会在手机上听一听我自己做的课,我能感受到哪里讲的精彩,哪里讲的不好,这种内心的评价是稀缺资源,很多年以后,你可能不记得学过的知识了,但是你可能还记得自己对课程的评价,欲买桂花同载酒,终不似,少年游。

ailx10 229

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

[LangChain] 学习笔记(004):嵌入模型——让机器第一次「算得出」两句话有多像

前三篇我们一直在跟「聊天」打交道:给一句话,模型回一段话。如果你想让机器判断「这两句话意思像不像」,它怎么判断?机器只认数字。你给它「我喜欢猫」和「我爱猫咪」,它看到的只是两串字符——比不了大小,也算不了距离。搭这座桥的东西,就叫嵌入。

一名在 Linux 与 C/C++ 世界里打怪升级的开发者。持续输出系统编程、网络编程、数据结构与算法的高质量学习笔记与实战总结 448

老版QQ原生表情gif动态

这是老版的QQ表情,不过全是动态的的,Windows照片查看器是不会动的,可以右击用浏览器打开查看,再说一遍是老版的,只是分享给宁愿用老版也要动态的人。

小红书笔记发布时段怎么测?一份可复用的时段对照记录方法

先把一天划成几个常见区间(早间、午间、晚间、睡前),每个区间至少积累多篇样本再下判断。单篇数据波动大,连续三五篇的平均表现更有参考价值。同一账号、同一垂类、相近篇幅和封面风格的笔记,才适合放在一起对比。选题热度、封面质量差异太大时,时段因素会被掩盖,结论不可靠。做内容久了会发现,同一类选题在不同时间段发,互动表现能差出一截。与其凭感觉挑时间,不如用记录法把这件事量化下来。攒够一个月左右的数据后,按区间汇总互动均值,再结合自己的更新频率保留两个主力时段,其余作为测试位继续观察。

XMXFS的博客 204

GSV6502 HDMI2.1 @ACP分配芯片选型笔记

本文为项目选型记录,梳理 GSV6502 HDMI2.1 一分二分配芯片规格、适配场景与硬件调试注意事项,供双屏同源输出音视频方案评估参考。

ACP广源盛的博客 568

GSV2201S@ACP 硬件选型笔记

Type‑C 转 HDMI 的 Dongle 方案对板面积、BOM 成本、固件工作量都很敏感。GSV2201S 集成 PD3.0、MCU、Flash,单芯片完成 DP Alt Mode 转 HDMI2.0,本文整理硬件设计和调试踩坑经验,供做扩展坞、转接器的硬件工程师参考。

ACP广源盛的博客 189

云原生运维学习笔记:Kubernetes 集群手动安装与资源管理实战

本文详细记录了Kubernetes v1.30.2集群的手动安装与资源管理全过程。基于Ubuntu系统,通过netplan配置三台节点(1控制平面+2工作节点),完成主机名与静态网络设置。使用kubeadm config images pull预拉取镜像,避免初始化失败;随后执行kubeadm init,指定Pod网段为10.224.0.0/16,部署Calico网络插件。成功后,通过kubectl管理命名空间与上下文,实现资源隔离与环境切换。操作逻辑清晰,适用于生产环境搭建与故障排查参考。

2604_96593683的博客 428

防虫鼠监测传感采集方案,与图书馆库房温湿度环境数据融合分析开发笔记

本文介绍智慧图书馆库房一体化“十防”解决方案,聚焦温湿度监测、防火防盗防虫鼠等核心需求,构建以智慧库房为基础、十防一体化为链路、一站式平台为闭环的物联网集成体系。方案涵盖设计、部署、运行、优化全周期,强调三步走策略:明确库房范围、校准参数、验证平台,确保数据可采、状态可查、责任可溯。适用于档案馆、图书馆等高安全要求场景,具备可复制、可持续的工程价值。

honsor的博客 158

邮件安全智能体工程架构笔记:JSON预处理管道与CPU/GPU分层设计 方向标

智能体的入口是网关按内容生成的结构化JSON:正文、附件解析结果、图片OCR、二维码信息提前处理完毕,模型不消耗资源做解码识别。北京方向标信息科技有限公司(品牌:方向标FangMail)公开的分层式AI邮件安全防护方案,工程上有几处设计值得记录:三层职责边界、结构化JSON预处理管道、CPU/GPU算力分层、误报纠偏机制。高管、财务、采购、出纳、供应链、IT等核心岗位触发风险后异步预警;邮件安全智能体输出风险分类、置信度与完整分析依据,不直接输出拦截或放行指令,处置权留在网关与管理员侧。

weixin_55624786的博客 202

OpenAI Agents SDK 工程笔记 · Agent 的 prompt 怎么钉版本、注入变量,以及托管提示停用前的生产禁区

本文按 openai-agents 0.23.1 源码与官方文档,整理 Agent 的 prompt 如何钉版本、注入变量,以及 Chat Completions 默认忽略该参数的生产禁区。运行循环会同时取出 instructions 与 prompt,未写 version 时 SDK 不会补最新版。可复用 prompt 对象已弃用,v1/prompts 计划于 2026 年 11 月 30 日关闭,新代码应把正文迁回仓库。离线脚本只检查本地载荷,未调用供应商,未创建真实托管提示。

AIWritePaper-AI论文写作领先平台 45

C++笔记(面向对象)成员初始化列表

在 C++ 中,成员初始化列表在进入构造函数函数体之前,完成类成员变量的初始化。重点:初始化 ≠ 赋值。初始化是创建变量时直接给初值;赋值是变量已经存在之后,修改它的值。避免值拷贝开销,外部拿到引用可以直接修改原变量。反面坑:不要返回局部变量的引用,局部变量函数结束就销毁,引用变成野引用。

2501_91434366的博客 230

ESP32音频/语音技术(18)AI语音笔记系统

本项目实现“说完即记”语音笔记系统,基于ESP32与PC网关协同:ESP32采集16K/16bit PCM音频并分包上传,PC端调用豆包ASR2.0流式识别,自动追加至Markdown笔记。采用自定义TCP帧协议防粘包,状态实时回传,屏幕与灯光同步反馈。通过三层分离架构,将算力与密钥集中于PC,实现低成本MCU获得大模型级语音能力,兼顾安全性与可维护性。关键设计包括按键防抖、局部刷新防闪、事件驱动状态机及可观测日志,显著提升稳定性与调试效率。

91创客学堂 414

51 单片机学习笔记:LCD1602、独立按键、I2C 与 AT24C02 掉电存储(江科大课程小白笔记)

本文为江科大51单片机课程的学习笔记,专为C语言基础薄弱、首次接触单片机的“代码小白”设计。内容涵盖LCD1602显示、独立按键、I2C通信及AT24C02 EEPROM存储等核心模块,通过“人话”解析代码逻辑,重点讲解sbit位定义、数据类型差异、命令与数据写入流程、按键消抖、I2C起始/停止时序、字节收发及应答机制等关键概念,强调模块化编程与实际动手结合,帮助初学者理解底层原理,快速上手开发。

2301_81429079的博客 340

Arduino-MEGA-ESP单片机实验课笔记04计时-05温湿度-06串口-2026

本实验基于Wokwi平台,整合DHT22温湿度传感器、DS1307 RTC模块与MAX7219点阵屏,实现温湿度监测与时钟显示系统。通过实验四、五、六,分别完成传感器数据采集与双温度显示、RTC时钟读取与轮播展示、串口交互与周期上报功能。系统上电后先接收学号并滚动显示,随后进入主循环:定时读取温湿度与时间,点阵轮播环境参数与时间信息,每分钟通过串口自动上报包含学号、时间、温湿度的监测记录。采用非阻塞编程与读取限流策略,有效解决通信冲突与画面卡顿问题。实验完整实现了嵌入式系统的信号采集、处理、交互与可视化输出

zhangrelay的专栏 176

[LangChain] 学习笔记(002):5 个提示词公式,让同一个大模型给出完全不同的答案

摘要:本文围绕「提示词决定输出质量」这一核心观点,系统梳理了 5 个可直接套用的提示词公式:用 CO-STAR 六要素把模糊需求填实,用 Few-shot 示例替代规则描述,用 CoT 让推理过程显式可见,用 Zero-shot CoT 一句「一步步思考」低成本涨点,用「初稿→挑错→重写」的自我批判迭代提升质量。文中配有基于 LangChain 和 DeepSeek 的完整可运行代码与真实输出,并附踩坑排查表,帮助读者从理论到实战一次跑通。

一名在 Linux 与 C/C++ 世界里打怪升级的开发者。持续输出系统编程、网络编程、数据结构与算法的高质量学习笔记与实战总结 278
上一篇: (笔记+作业)书生大模型实战营春节卷王班---L2G2000 Lagent 自定义你的 Agent 智能体
下一篇: (笔记+作业)书生大模型实战营春节卷王班---L2G4000 InternVL 多模态模型部署微调实践
haidizym
博客等级 码龄7年 383粉丝 87原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
⌂ 换网址