使用XTuner进行大模型微调训练实践记录

成功使用XTuner 微调个人小助手 两个小时入门一下微调模型,形成一个雏形 阅读详情

1.先从modelscope平台上下载模型

我是下载的 BAAI/Finance-llama3_1_8B_instruct 模型

#模型下载

from modelscope import snapshot_download

model_dir = snapshot_download('BAAI/Finance-llama3_1_8B_instruct',cache_dir="/root/autodl-tmp/aiLearn/model")

cache_dir 是下载到本地或服务器上保存模型的目录

2.拉取XTuner工程

git clone https://github.com/InternLM/xtuner.git

在执行 git clone https://github.com/InternLM/xtuner.git 时可能会报如下的错误:

解决方案:设置 git config 来强制 git 使用 HTTP 1.1

git config --global http.version HTTP/1.1

执行完后继续执行上面的 git clone https://github.com/InternLM/xtuner.git 命令拉取xtuner工程

3.新建一个独立的conda环境,安装XTuner需要的依赖

(1)先配置一下xtuner 的 pytorch 版本为 2.5.1,在runtime.txt 文件中指定 torch==2.5.1 torchvision==0.20.1 torchaudio==2.5.1,如下图所示:

(2)然后新建conda环境,安装xtuner所需的依赖包

conda create --n xtuner-env python=3.10 -y

conda activate xtuner-env

cd xtuner

pip install -e . 

安装完成后,再检查一下 torch 的版本,保证torch的版本不要是最新的 2.6.0,要是稳定的2.5.1,可使用以下命令检查 torch 版本:

pip show torch

或者

pip list

如果torch 的版本还是最新的2.6.0,那就到pytorch的官网上找到对应cuda版本的 2.5.1 版本的安装命令再安装一下,我的服务器的cuda是12.4的,所以我的单独安装pytorch的命令为:

pip3 install torch==2.5.1 torchvision==0.20.1 torchaudio==2.5.1 --index-url https://download.pytorch.org/whl/cu124

4.设置需要微调训练的配置文件

(1)新增一个微调训练配置文件

       配置文件内容以xtuner中原有的配置文件为模版,复制模版中的内容来做修改,xtuner/xtuner/configs/internlm/internlm2_7b 目录下有各种不同的配置文件,比如,我的微调数据集是json格式的,我就以xtuner/xtuner/configs/internlm/internlm2_7b/internlm2_7b_qlora_json_e3.py 这个配置文件为模版

新建一个llama3_8b_instruct_qlora_ruozhiba_e3.py 配置文件,我的配置文件目录为

/root/autodl-tmp/traintool/xtuner/xtuner/configs/llama/llama3_8b_instruct/,如下图所示:

其中里面的内容如下:

# Copyright (c) OpenMMLab. All rights reserved.
import torch
from datasets import load_dataset
from mmengine.dataset import DefaultSampler
from mmengine.hooks import (
    CheckpointHook,
    DistSamplerSeedHook,
    IterTimerHook,
    LoggerHook,
    ParamSchedulerHook,
)
from mmengine.optim import AmpOptimWrapper, CosineAnnealingLR, LinearLR
from peft import LoraConfig
from torch.optim import AdamW
from transformers import AutoModelForCausalLM, AutoTokenizer, BitsAndBytesConfig

from xtuner.dataset import process_hf_dataset
from xtuner.dataset.collate_fns import default_collate_fn
from xtuner.dataset.map_fns import template_map_fn_factory
from xtuner.engine.hooks import (
    DatasetInfoHook,
    EvaluateChatHook,
    VarlenAttnArgsToMessageHubHook,
)
from xtuner.engine.runner import TrainLoop
from xtuner.model import SupervisedFinetune
from xtuner.parallel.sequence import SequenceParallelSampler
from xtuner.utils import PROMPT_TEMPLATE

#######################################################################
#                          PART 1  Settings                           #
#######################################################################
# Model
pretrained_model_name_or_path = "/root/autodl-tmp/aiLearn/model/BAAI/Finance-llama3_1_8B_instruct"
use_varlen_attn = False

# Data
data_path = "/root/autodl-tmp/traintool/data/target_data.json"
prompt_template = PROMPT_TEMPLATE.llama3_chat
max_length = 512
pack_to_max_length = True

# parallel
sequence_parallel_size = 1

# Scheduler & Optimizer
batch_size = 6  # per_device
accumulative_counts = 16
accumulative_counts *= sequence_parallel_size
dataloader_num_workers = 4
max_epochs = 1000
optim_type = AdamW
lr = 2e-4
betas = (0.9, 0.999)
weight_decay = 0
max_norm = 1  # grad clip
warmup_ratio = 0.03

# Save
save_steps = 500
save_total_limit = 2  # Maximum checkpoints to keep (-1 means unlimited)

# Evaluate the generation performance during the training
evaluation_freq = 500
SYSTEM = ""
evaluation_inputs = ["两千块钱买什么新车好?", "出生证丢了怎么证明自己出生了","鸡柳是鸡身上哪个部位啊?","我25岁 我爸50岁 那我爸两岁就生了我啦?","为什么没人说ABCD型的成语?",]

#######################################################################
#                      PART 2  Model & Tokenizer                      #
#######################################################################
tokenizer = dict(
    type=AutoTokenizer.from_pretrained,
    pretrained_model_name_or_path=pretrained_model_name_or_path,
    trust_remote_code=True,
    padding_side="right",
)

model = dict(
    type=SupervisedFinetune,
    use_varlen_attn=use_varlen_attn,
    llm=dict(
        type=AutoModelForCausalLM.from_pretrained,
        pretrained_model_name_or_path=pretrained_model_name_or_path,
        trust_remote_code=True,
        torch_dtype=torch.float16,
        quantization_config=dict(
            type=BitsAndBytesConfig,
            load_in_4bit=True,
            load_in_8bit=False,
            llm_int8_threshold=6.0,
            llm_int8_has_fp16_weight=False,
            bnb_4bit_compute_dtype=torch.float16,
            bnb_4bit_use_double_quant=True,
            bnb_4bit_quant_type="nf4",
        ),
    ),
    lora=dict(
        type=LoraConfig,
        r=64,
        lora_alpha=16,
        lora_dropout=0.1,
        bias="none",
        task_type="CAUSAL_LM",
    ),
)

#######################################################################
#                      PART 3  Dataset & Dataloader                   #
#######################################################################
train_dataset = dict(
    type=process_hf_dataset,
    dataset=dict(type=load_dataset, path="json", data_files=dict(train=data_path)),
    tokenizer=tokenizer,
    max_length=max_length,
    template_map_fn=dict(type=template_map_fn_factory, template=prompt_template),
    remove_unused_columns=True,
    shuffle_before_pack=True,
    pack_to_max_length=pack_to_max_length,
    use_varlen_attn=use_varlen_attn,
)

sampler = SequenceParallelSampler if sequence_parallel_size > 1 else DefaultSampler
train_dataloader = dict(
    batch_size=batch_size,
    num_workers=dataloader_num_workers,
    dataset=train_dataset,
    sampler=dict(type=sampler, shuffle=True),
    collate_fn=dict(type=default_collate_fn, use_varlen_attn=use_varlen_attn),
)

#######################################################################
#                    PART 4  Scheduler & Optimizer                    #
#######################################################################
# optimizer
optim_wrapper = dict(
    type=AmpOptimWrapper,
    optimizer=dict(type=optim_type, lr=lr, betas=betas, weight_decay=weight_decay),
    clip_grad=dict(max_norm=max_norm, error_if_nonfinite=False),
    accumulative_counts=accumulative_counts,
    loss_scale="dynamic",
    dtype="float16",
)

# learning policy
# More information: https://github.com/open-mmlab/mmengine/blob/main/docs/en/tutorials/param_scheduler.md  # noqa: E501
param_scheduler = [
    dict(
        type=LinearLR,
        start_factor=1e-5,
        by_epoch=True,
        begin=0,
        end=warmup_ratio * max_epochs,
        convert_to_iter_based=True,
    ),
    dict(
        type=CosineAnnealingLR,
        eta_min=0.0,
        by_epoch=True,
        begin=warmup_ratio * max_epochs,
        end=max_epochs,
        convert_to_iter_based=True,
    ),
]

# train, val, test setting
train_cfg = dict(type=TrainLoop, max_epochs=max_epochs)

#######################################################################
#                           PART 5  Runtime                           #
#######################################################################
# Log the dialogue periodically during the training process, optional
custom_hooks = [
    dict(type=DatasetInfoHook, tokenizer=tokenizer),
    dict(
        type=EvaluateChatHook,
        tokenizer=tokenizer,
        every_n_iters=evaluation_freq,
        evaluation_inputs=evaluation_inputs,
        system=SYSTEM,
        prompt_template=prompt_template,
    ),
]

if use_varlen_attn:
    custom_hooks += [dict(type=VarlenAttnArgsToMessageHubHook)]

# configure default hooks
default_hooks = dict(
    # record the time of every iteration.
    timer=dict(type=IterTimerHook),
    # print log every 10 iterations.
    logger=dict(type=LoggerHook, log_metric_by_epoch=False, interval=10),
    # enable the parameter scheduler.
    param_scheduler=dict(type=ParamSchedulerHook),
    # save checkpoint per `save_steps`.
    checkpoint=dict(
        type=CheckpointHook,
        by_epoch=False,
        interval=save_steps,
        max_keep_ckpts=save_total_limit,
    ),
    # set sampler seed in distributed evrionment.
    sampler_seed=dict(type=DistSamplerSeedHook),
)

# configure environment
env_cfg = dict(
    # whether to enable cudnn benchmark
    cudnn_benchmark=False,
    # set multi process parameters
    mp_cfg=dict(mp_start_method="fork", opencv_num_threads=0),
    # set distributed parameters
    dist_cfg=dict(backend="nccl"),
)

# set visualizer
visualizer = None

# set log level
log_level = "INFO"

# load from which checkpoint
load_from = None

# whether to resume training from the loaded checkpoint
resume = False

# Defaults to use random seed and disable `deterministic`
randomness = dict(seed=None, deterministic=False)

# set log processor
log_processor = dict(by_epoch=False)

我的json格式的数据集样式如下所示:

[
    {
        "conversation": [
            {
                "input": "只剩一个心脏了还能活吗?",
                "output": "能,人本来就只有一个心脏。"
            }
        ]
    },
    {
        "conversation": [
            {
                "input": "爸爸再婚,我是不是就有了个新娘?",
                "output": "不是的,你有了一个继母。\"新娘\"是指新婚的女方,而你爸爸再婚,他的新婚妻子对你来说是继母。"
            }
        ]
    },
    {
        "conversation": [
            {
                "input": "樟脑丸是我吃过最难吃的硬糖有奇怪的味道怎么还有人买",
                "output": "樟脑丸并不是硬糖,而是一种常见的驱虫药,不能食用。虽然它的味道可能不太好,但是由于其有效的驱虫效果,所以仍然有很多人会购买。"
            }
        ]
    },
    {
        "conversation": [
            {
                "input": "马上要上游泳课了,昨天洗的泳裤还没干,怎么办",
                "output": "游泳时泳裤本来就会湿,不用晾干。"
            }
        ]
    },
    {
        "conversation": [
            {
                "input": "为什么没人说ABCD型的成语?🤔",
                "output": "这是因为中文成语一般都是四字成语,每个字都有其特定的含义,四个字合在一起构成一个完整的意思。而ABCD型的成语最常见,所以大家不会刻意强调。"
            }
        ]
    }
]

(2)修改配置文件中的参数值

我修改了配置文件中的以下几个参数:

#                          PART 1  Settings                           #

pretrained_model_name_or_path:该参数是需要指明模型的目录

data_path:该参数是需要指明数据集的目录

prompt_template:训练时使用的对话模版,在xtuner/xtuner/utils/templates.py 源代码中寻找匹配你自己的大模型的对话模版,比如我的模型是BAAI/Finance-llama3_1_8B_instruct,我配置的对话模版是 PROMPT_TEMPLATE.llama3_chat。

max_length:默认的是2048,我设置的512

batch_size:批次数量,这个参数需要根据自己的服务器GPU性能参数进行设置

max_epochs:最大训练轮次,这个也是需要根据自己的情况进行设置,我是设置的1000

evaluation_inputs:这个是微调训练后xtuner帮助评估效果的问题示例,可以自行设置多个问题,方便在日志信息中进行主观的评估模型的训练效果。

#                      PART 2  Model & Tokenizer                      #

中只有两个地方需要根据你自己看是否修改(以下标识红线的地方),其他地方就不需要修改了

配置文件中默认使用的是 4位量化微调,如果需要使用8位的量化微调,就设置 load_in_4bit=False,load_in_8bit=True 就行。

量化微调的 LoRA 秩(r=64) 这个参数根据自己的情况进行设置,一般是设置32-64之间,LoRA 缩放系数(lora_alpha=16)这个参数一般是设置成 LoRA 秩 的 2倍,比如,r=64,那么一般lora_alpha=128 这样设置。这两个参数可以根据自己的实际情况进行修改,如果不知道改成啥,就按64 和 128 设置。

#                           PART 5  Runtime                           #

中有一个参数需要提一下,就是

# load from which checkpoint

load_from = None

该参数的作用是从上一次保存的权重参数继续训练,该参数一般用于训练过程中服务中断了,模型还需要继续训练的场景,设置的值为报错的权重参数的路径,如下图所示:

需要注意的是,load_from 的值是一个字符串类型的路径值,需要使用双引号""把路径括起来。

5. 执行微调训练命令 

在终端执行下面的命令:

xtuner train /root/autodl-tmp/traintool/xtuner/xtuner/configs/llama/llama3_8b_instruct/llama3_8b_instruct_qlora_ruozhiba_e3.py 

/root/autodl-tmp/traintool/xtuner/xtuner/configs/llama/llama3_8b_instruct/llama3_8b_instruct_qlora_ruozhiba_e3.py  这个路径是第4步中设置好的配置文件的路径

执行完命令后,检查一下是否能正常启动,并且开启另一个终端,使用nvitop检查GPU的占用情况,如果占用没到 90%,就把配置文件中的 batch_size 参数调大一点,尽量让GPU的占用到90%左右。

我的配置文件中的batch_size = 6,GPU占用为 82.5%,这种情况我的batch_size 可以调大一点。

检查以上情况没问题后,可以使用 nohup 命令让程序在后台自行运行

nohup xtuner train /root/autodl-tmp/traintool/xtuner/xtuner/configs/llama/llama3_8b_instruct/llama3_8b_instruct_qlora_ruozhiba_e3.py &

训练启动后,会在 xtuner 目录下 生成一个 work_dirs 的目录,用来保存日志信息和 训练后的权重信息,如下图所示:

20250412_193005.json 文件中的内容如下所示:

{"lr": 0.0001939740336516273, "data_time": 0.011908245086669923, "loss": 0.0057998948963358995, "time": 2.2731671571731566, "grad_norm": 0.014851417765021325, "iter": 6750, "memory": 18250, "step": 6750}

eval_outputs_iter_1999.txt 中内容如下所示:

Eval output 1:
<|begin_of_text|><|start_header_id|>user<|end_header_id|>

两千块钱买什么新车好?<|eot_id|><|start_header_id|>assistant<|end_header_id|>

如果非要回答,那可能只能是玩具车或者模型车。<|eot_id|>


Eval output 2:
<|begin_of_text|><|start_header_id|>user<|end_header_id|>

出生证丢了怎么证明自己出生了<|eot_id|><|start_header_id|>assistant<|end_header_id|>

可以通过其他官方文件来证明,例如护照、身份证、驾驶证等。这些文件都需要出生证明来申请,因此它们也可以作为证明自己出生的证据。此外,医院的出生记录、学校的入学记录、家庭照片等也可以作为间接证据。<|eot_id|>


Eval output 3:
<|begin_of_text|><|start_header_id|>user<|end_header_id|>

鸡柳是鸡身上哪个部位啊?<|eot_id|><|start_header_id|>assistant<|end_header_id|>

"鸡柳"并不是鸡上的实际部位,而是一种烹饪方式。"柳"在这里是比喻的意思,表示鸡肉被切成长条状,然后进行烹饪。所以,"鸡柳"其实是鸡肉切成长条状的版本。<|eot_id|>

6. 转换训练好的权重模型格式为HuggingFace 模型

       使用 xtuner 工具训练后会自动保存成 PTH 模型,例如 iter_7000.pth,我们需要利用 xtuner convert pth_to_hf 将其转换为 HuggingFace 模型,以便于后续测试或合并模型权重。

xtuner convert pth_to_hf ${FINETUNE_CFG} ${PTH_PATH} ${SAVE_PATH}

示例:

xtuner convert pth_to_hf /root/autodl-tmp/traintool/xtuner/xtuner/configs/llama/llama3_8b_instruct/llama3_8b_instruct_qlora_ruozhiba_e3.py /root/autodl-tmp/traintool/xtuner/work_dirs/llama3_8b_instruct_qlora_ruozhiba_e3/iter_7500.pth /root/autodl-tmp/traintool/xtuner/work_dirs/llama3_8b_instruct_qlora_7500

转换完成后,终端会打印如下日志信息:

同时xtuner/work_dirs 目录下会生成对应的HuggingFace格式的文件:

7.对训练保存的权重进行对话测试

     我们一般对大模型训练一段时间后,需要对训练后的结果做一个训练效果测试,可以使用 xtuner chat 命令在终端上对Hugging Face 格式的权重进行对话测试:

xtuner chat ${NAME_OR_PATH_TO_LLM} --adapter {NAME_OR_PATH_TO_ADAPTER} --prompt-template ${PROMPT_TEMPLATE} [optional arguments]
示例:xtuner chat /root/autodl-tmp/aiLearn/model/BAAI/Finance-llama3_1_8B_instruct --adapter /root/autodl-tmp/traintool/xtuner/work_dirs/llama3_8b_instruct_qlora_7500 --prompt-template llama3_chat

测试效果示意图如下:

从对话测试中可以看出,回答的答案和数据集设定的答案还是有差距(回答中部分是数据集中的答案,部分是原有模型自己的思考答案),说明还需要继续训练。

8.合并训练好的模型参数

       利用 xtuner convert merge 命令合并模型权重,用于后续部署到 vLLM 或 LMDeploy 推理部署框架上进行评测推理。

xtuner convert merge ${LLM} ${LLM_ADAPTER} ${SAVE_PATH}

示例:

xtuner convert merge /root/autodl-tmp/aiLearn/model/BAAI/Finance-llama3_1_8B_instruct /root/autodl-tmp/traintool/xtuner/work_dirs/llama3_8b_instruct_qlora_7500 /root/autodl-tmp/aiLearn/model/BAAI/Finance-llama3_1_8B_instruct-merged

合并成功后终端会打印如下日志信息:

对应的model/BAAI/也会生成合并后的模型权重文件:

9.部署训练合并后的模型到LMDeploy 平台上进行推理评测

该步骤根据自己的情况也可以部署到vLLM平台上进行效果评测。

关于LMDeploy 和 vLLM平台的模型部署操作,在此就不再赘述了,有需要的可以在对应的官网上查看部署模型启动服务操作,需要注意的是部署的时候可能需要转换一下对话模版的格式。

       到此,使用xtuner工具进行微调训练的操作流程步骤就结束了,后续如果有需要使用多卡训练的小伙伴可以在 xtuner train 命令前面增加 NPROC_PER_NODE=${GPU_NUM} 参数,GPU_NUM 是指你的GPU数量, 后面再增加 --deepspeed deepspeed_zero2 参数,具体可参考 DeepSpeed — XTuner 0.2.0rc0 文档 上面的操作说明。

参考文档:

欢迎来到 XTuner 的中文文档 — XTuner 0.2.0rc0 文档

【ComfyUI】慎重安装Pytorch 2.6 版本 我们需要卸载Torch 2.6 和Torchvision、torchAudio、Xformers组件,然后再安装。若使用 PyTorch 2.6 及以上版本,虽然新版本特性吸引人,但升级后可能出现节点启动失败的问题,请注意兼容性风险。接下来执行如下命令进行Torch 及其他组件安装。 阅读详情

相关推荐

基于Spring Boot在线远程考试系统的设计与实现

结合先进的互联网技术,开发符合需求的软件,让数据内容管理不管是从录入的及时性,查看的及时性还是汇总分析的及时性,都能让正确率达到最高,管理更加的科学和便捷。目前的信息时代,对信息的管理趋于高效化,便捷化,这也是计算机大力普及所带来的便利,此程序软件在设备选用上,依靠的是比较大众的电脑设备,对电脑的配置没有过多要求,一般学校的计算机机房的电脑都可以满足程序开发需求,另外,开发出此款程序,让信息处理变得高效率,其所带来的高效益是远超程序开发的低成本的,因此程序开发的资金投入是可以忽略不计的。

ITbiyesheji的博客 1219

XTuner 大模型单卡低成本微调之本地实战

3090单卡微调大模型

weixin_55982578的博客 1638

从零构建EtherCAT从站:SSC工具配置与TwinCAT3 PDO/SDO调试实战

本文详细介绍了从零构建EtherCAT从站的完整流程,重点讲解SSC工具配置与TwinCAT3 PDO/SDO调试实战。通过解析EtherCAT通信机制、PDO与SDO的核心概念,提供SSC工具配置技巧、XML文件生成与校验方法,以及TwinCAT3环境下的调试经验,帮助开发者高效完成EtherCAT从站开发与优化。

weixin_42520573的博客 348

书生第三期实战营-基础岛

大型语言模型(LLMs)的发展,如ChatGPT和GPT-4,引发了人们对人工通用智能(AGI)的到来的讨论。然而,在开源模型中复制这种进展是具有挑战性的。本文介绍了InternLM2,一个开源的LLM,在6个维度和30个基准测试中胜过其前任,在长文本建模和开放式主观评估方面通过创新的预训练和优化技术。InternLM2的预训练过程被详细介绍,重点突出了对多种数据类型(文本、代码和长文本数据)的准备。

Goodman_____的博客 1368

[调参神器]使用VOFA+上位机进行PID调参(附下位机代码)

​ 简单地来说,VOFA+是一个超级串口助手,除了可以实现一般串口助手的串口数据收发,它还可以实现数据绘图(包括直方图、FFT图),控件编辑,图像显示等功能。​ 如果只是想要用VOFA+来进行数据绘图,直接使用一个波形图控件就行,但是如果想要把VOFA+当作一个长期使用的调参助手,我们最好设置一下控件。VOFA+简洁好用,但是又有点太简洁了,部分体验并不是很好(比如不能调整控件大小,保存文件不太方便等),所以如果学有余力,推荐自己用QT/PyQT写上位机。接下来,我们要将指令中的数据提取出来。

qq_56089182的博客 4万+

Rasa Core开发指南

文章目录1. Rasa Core简介1.1 Rasa Core消息处理流程1.2 安装Rasa Core2. Dialogue模型训练2.1 Story样本数据2.2 Domain2.2.0 intents2.2.1 actions2.2.2 templates2.2.3 entities2.2.4 slots3 .训练和使用对话模型3.1 训练对话模型3.2 使用对话模型4. 搭建CustomA...

老蒋也疯狂 1万+

XTuner 微调实践微调笔记

运行命令xtuner train ./config/internlm2_5_chat_7b_qlora_alpaca_e3_copy.py --deepspeed deepspeed_zero2 --work-dir ./work_dirs/assistTuner进行训练。对于 LoRA 或者 QLoRA 微调出来的模型其实并不是一个完整的模型,而是一个额外的层(Adapter),训练完的这个层最终还是要与原模型进行合并才能被正常的使用。接着进行模型合并命令。表示合并后的模型最终的保存路径。

a17919的博客 1527

8、多导睡眠图记录中基于级联自适应滤波器的脑电图信号噪声去除

本文提出了一种基于三级级联自适应滤波器的新型方法,用于去除多导睡眠图(PSG)记录中脑电图(EEG)信号的常见伪迹,包括50/60 Hz电源线干扰、心电图(ECG)和眼电图(EOG)伪迹。该方法采用最小均方(LMS)算法,通过分阶段滤波有效分离并衰减各类噪声,在保留EEG关键神经节律信息的同时显著提升信号质量。研究利用MIT-BIH数据库中的18份真实PSG记录进行验证,结果表明该方法具有无相位失真、实现简单、自适应能力强等优势,适用于睡眠研究及脑机接口等生物医学应用领域。

banana的博客 175

【书生大模型训练营-基础岛】XTuner 微调实践

模型转换的本质其实就是将原本使用 Pytorch 训练出来的模型权重文件转换为目前通用的 HuggingFace 格式文件,那么我们可以通过以下命令来实现一键转换。微调出来的模型其实并不是一个完整的模型,而是一个额外的层(Adapter),训练完的这个层最终还是要与原模型进行合并才能被正常的使用。脚本来观察微调后的对话效果,不过在运行之前,我们需要将脚本中的模型路径修改为微调后的模型的路径。我们写一个脚本生成修改我们需要的微调训练数据,在当前目录下创建一个。太长了,下面的就不截了。

weixin_53737853的博客 1688

YOLOv11改进 | 引入SFSConv空间频率选择卷积(含SFSC3k2二次创新),空间频率特征协同作用,检测性能全面提升

本文提出在YOLOv11中引入SFSConv空间频率选择卷积模块,通过显式分离和动态融合空间域与频率域特征,解决传统卷积对多尺度目标检测的局限性。SFSConv包含空间频率分离、动态权重融合和协同特征重建三个核心机制,并进一步创新提出SFSC3k2结构,通过双路频率分支增强特征协同作用。该改进显著提升了YOLOv11在遥感、医学等多尺度复杂场景下的检测性能,实验显示在微小目标检测任务中mAP提升5%-10%。代码实现展示了SFSConv模块的核心逻辑及其在PyTorch中的高效实现。

走向CTO的路上... 772

6、SAP HANA 建模全解析

本文全面解析了 SAP HANA 建模的核心内容,包括属性视图、分析视图和计算视图的创建与使用。文章详细介绍了建模工具的安装、不同视图类型的适用场景及操作步骤,并通过对比和案例分析帮助读者更好地理解建模流程。此外,还涵盖了建模过程中的注意事项及性能优化建议,为 SAP HANA 用户提供实用的建模指导。

juice的博客 203

XTuner 大模型单卡低成本微调实战

仅作为自己学习的笔记记录。

RessCris的博客 1061

锂电池充电器电路设计 里面有电路

锂电池充电器电路设计 里面有电路 3.7V升压到5V电路设计。

(实战)Xtuner微调InternLM大模型——L1G5

本文记录了使用Xtuner微调InternLM大模型的过程,重点包括环境配置、数据准备、模型训练、权重转换、模型合并以及WebUI对话的实现。首先,conda创建Python-3.10虚拟环境并安装Xtuner,随后准备并修改微调数据,确保数据格式符合要求。接着,使用InternLM2.5-7B-Chat模型进行微调,过程中遇到显存不足的问题,最终通过调整GPU资源解决。微调完成后,将模型权重转换为HuggingFace格式,并与原模型合并,生成了最终的微调模型。最后,通过Streamlit的web界面

weixin_57253447的博客 1408

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版

Part-E1-SDIO-Specification-Ver4.00-Final-120220.pdf:最新的sdio 4.0 spec 协议标准 带书签 高清完整PDF版,包括SDIO 接口的外设,SDIO 接口官方协议等。

【书生·浦语大模型实战营】第4节笔记:Xtuner微调

两种Finetune范式LLM的下游应用中,增量预训川练和指令跟随是经常会用到两种的微调模式:·增量预训练微调1.使用场景:让基座模型学习到一些新知识,如某个垂类领域的 常识2.训练数据:文章、书籍、代码等· 指令跟随微调1.使用场景:让模型学会对话模板,根据人类指令进行对话2.训练数据:高质量的对话、问答数据全参 VS Lora VS QLora文本单模态:输入文本,通过文本Embedding模型转换成文本向量,由LLM处理后输出文本。文本+图像多模态。

2302_79681906的博客 1249

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

XTuner微调个人小助手认知

在本节中,将一步步带领大家体验如何使用 XTuner 完成个人小助手的微调!

2201_75335094的博客 1874

【 书生·浦语大模型实战营】学习笔记(四):XTuner 微调 LLM:1.8B、多模态、Agent

本篇笔记内容主要为XTuner 微调 LLM。主要对微调概念、XTuner框架等进行详细介绍,并对多模态LLava1.8b进行模型训练微调、模型合并、对话测试实战,欢迎大家交流学习!

专注大数据与人工智能技术分享,欢迎私信加群互相学习! 2006

基础岛 xtuner微调大模型

记录复现过程并截图。

weixin_47551406的博客 840

Xtuner:大模型微调快速上手

XTuner是由上海人工智能实验室开发的大语言模型微调工具库,具有轻量易用、配置驱动、高效灵活等特点。它支持多种微调算法(如LoRA、QLoRA)和主流大模型,通过简单的命令行操作和配置文件即可完成微调流程。XTuner集成FlashAttention等优化技术,与LMDeploy、OpenCompass形成完整解决方案。用户可通过内置配置快速上手,如使用QLoRA微调InternLM2-1.8B模型,只需准备数据、选择配置、启动训练、合并权重四步。XTuner简化了大模型微调流程,是开发者快速实现模型定制

m0_57280180的博客 911

L1G5000作业-XTuner 微调实践微调

任务具体要求:使用 XTuner 微调 InternLM2-Chat-7B 实现自己的小助手认知,如下图所示(图中的尖米需替换成自己的昵称),记录复现过程并截图。

m0_73878994的博客 709

XTuner 微调个人小助手 第四课实战

1.XTuner简介傻瓜化:以配置文件的形式封装了大部分微调场景,0基础的非专业人员也能一键开始微调轻量化:对于7B参数的LLM,微调所需最小显存为8G:消费级显卡、colab多生态支持:XTuner支持HuggingFace和ModelScope的模型和数据集,提供了丰富的模型资源和数据集。硬件适配:支持NVIDIA 20系以上显卡,最低8GB显存即可运行,极大降低了硬件门槛。多种微调算法:包括LoRA、QLoRA等,可以根据具体需求选择最适合的微调算法。显存和计算优化。

weixin_62638966的博客 2240

XTuner 微调大模型个人小助手认知

通过将训练后的模型转换为哈根face格式并进行合并,能够确保我们获得一个完整且有效的模型,以便进行后续的对话验证。使用 XTuner 微调 InternLM2-Chat-1.8B 实现自己的小助手认知,如下图所示(图中的伍鲜同志需替换成自己的昵称),记录复现过程并截图。转换后的模型会保存在当前目录下的hf文件夹中,这是微调模型的基础。-闯关任务的目标是完成个人小助手的微调,使模型能识别自己是用户的助手。-首先,我们需要将文件中的名称改为自己的名字,并选择合适的昵称以便保存。

weixin_42112760的博客 541

书生基础5L1-XTuner 微调个人小助手认知

使用 XTuner 微调 InternLM2-Chat-7B 实现自己的小助手认知,如下图所示(图中的需替换成自己的昵称),记录复现过程并截图。

2301_78443770的博客 975

基础岛-第5关-【XTuner 微调个人小助手认知】

微调(fine-tuning)是一种基于预训练模型,通过少量的调整(fine-tune)来适应新的任务或数据的方法。微调是在预训练模型的基础上,将模型中一些层的权重参数进行微调,以适应新的数据集或任务。预训练模型部分已经在大规模数据上得到了训练,它们通常是较为通用且高性能的模型,因此可以很好地作为新任务的起点。微调可以加快模型的收敛速度,降低模型过拟合的风险,并在不消耗过多计算资源的情况下获取较好的模型性能。Finetune的两种范式:增量预训练和指令跟随。

huixinci的专栏 1266

书生浦语XTuner 微调个人认知

测来测去,还是网络问题,这时候我才发现,其实我应该在书生的平台上直接传就好了,而我傻了吧唧的把模型文件下载到电脑上,再通过电脑上传,算了当测试windows客户端环境了,我也一怒之下换了手机热点上传,果然不断了,尴尬啊,反正流量足够,,,接下来将微调后的lora模型文件与原模型进行合并,因为不是全量的微调,所以必须把微调的后的权重参数也就是adapter的文件合并到原模型文件中,生成最终的模型权重进行加载才能进行最终的测试,看微调效果如何,进行基础配置等等,没留神,资源时间到了,,,尴尬,,,

danteblack的博客 765
上一篇: 使用llama.cpp部署推理GGUF格式的大模型实践记录
xuhf3150
博客等级 码龄12年 35粉丝 7原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
⌂ 换网址