NLP-最新库Transformers(一)概述[安装、快速入门、术语表]

Transformers库总体介绍 通过实际代码例子介绍Transformers库的常用功能 阅读详情


Transformers是一个用于自然语言处理(NLP)的Python第三方库,实现Bert、GPT-2和XLNET等比较新的模型,支持TensorFlow和PyTorch。

该库在设计时考虑了两个强烈的目标:

  • 尽可能容易且快速地使用:
    • 我们尽可能限制了要学习的面向对象抽象的类的数量,实际上几乎没有抽象,每个模型只需要使用三个标准类:配置、模型和tokenizer
    • 所有这些类都可以通过使用公共的from_pretrained()实例化方法从预训练实例以简单统一的方式初始化,该方法将负责从库中下载,缓存和加载相关类提供的预训练模型或你自己保存的模型。
    • 因此,这个库不是构建神经网络模块的工具箱。如果您想扩展/构建这个库,只需使用常规的Python/PyTorch模块,并从这个库的基类继承,以重用诸如模型加载/保存等功能。
  • 提供性能与原始模型尽可能接近的最新模型:
    • 对于每种架构,我们至少提供一个示例,该示例再现了该架构的正式作者提供的结果
    • 代码通常尽可能地接近原始代码,这意味着一些PyTorch代码可能不那么pytorch化,因为这是转换TensorFlow代码后的结果。

1、安装

1.1 依赖:

​ Python 3.6+ and PyTorch 1.1.0

1.2 安装

(1)pip安装

pip install transformers

(2) 源码:

To install from source, clone the repository and install with:

git clone https://github.com/huggingface/transformers.git
cd transformers
pip install .

1.3 OpenAI GPT原始标记分析流程

如果要实现OpenAI GPT 的本文令牌化过程,则需要安装ftfy``SpaCy`

pip install spacy ftfy==4.4.3
python -m spacy download en

如果您未安装ftfy和SpaCy,则penAI GPT令牌解析器将默认使用BERT的BasicTokenizer后跟Byte-Pair Encoding(对于大多数用法来说应该没问题,不用担心)。`进行令牌化,

1.4 有关模型下载的注意事项(连续集成或大规模部署)

如果您希望从我们的托管存储桶中下载大量模型(超过1,000个)(例如通过您的CI设置或大规模生产部署),请在您端缓存模型文件。它将更快,更便宜。如果您需要任何帮助,请随时与我们私下联系。

1.5 您要在移动设备上运行Transformer模型吗?

您应该查看我们的swift-coreml-transformers回购。

它包含了一套工具来转换PyTorch或TensorFlow 2.0训练的变压器模型(目前包含GPT-2,DistilGPT-2,BERT和DistilBERT)以CoreML模型运行在iOS设备上。

在将来的某个时候,您将能够从PyTorch中的预训练或微调模型无缝过渡到在CoreML中进行生产,或者在CoreML中对模型或应用程序进行原型设计,然后从PyTorch研究其超参数或体系结构。超级刺激!

2、快速入门

2.1 主要概念

该库针对每种模型围绕三种类型的类构建:

  • 模型类 model classes目前在库中提供的8个模型架构的PyTorch模型(torch.nn.Modules),例如BertModel
  • 配置类 configuration classes,它存储构建模型所需的所有参数,例如BertConfig。您不必总是自己实例化这些配置,特别是如果您使用的是未经任何修改的预训练的模型,创建模型将自动负责实例化配置(它是模型的一部分)
  • tokenizer classes,它存储每个模型的词汇表,并在要输送到模型的词汇嵌入索引列表中提供用于编码/解码字符串的方法,例如BertTokenizer

所有这些类都可以从经过预训练的实例中实例化,并使用两种方法在本地保存:

  • from_pretrained()允许您从一个预训练版本实例化一个模型/配置/tokenizer,这个预训练版本可以由库本身提供(目前这里列出了27个模型),也可以由用户在本地(或服务器上)存储,
  • save_pretrained()允许您在本地保存模型/配置/tokenizer,以便可以使用from_pretraining()重新加载它。

我们将通过一些简单的快速入门示例来结束本快速入门之旅,以了解如何实例化和使用这些类。本文档的其余部分分为两部分:

  • “ **主要类别”**部分详细介绍了三种主要类别(配置,模型,tokenizer)的常见功能/方法/属性,以及一些作为培训实用程序提供的与优化相关的类别,
  • 包引用部分详细描述了每个模型体系结构的每个类的所有变体,特别是调用它们时它们期望的输入和输出。

2.2 快速浏览:用法

这是两个示例,展示了一些Bert和GPT2类以及预训练的模型。

BERT example

让我们首先使用BertTokenizer从文本字符串准备一个标记化的输入(要输入给BERT的标记嵌入索引列表)

import torch
from transformers import BertTokenizer, BertModel, BertForMaskedLM

# OPTIONAL: if you want to have more information on what's happening under the hood, activate the logger as follows
import logging
logging.basicConfig(level=logging.INFO)

# Load pre-trained model tokenizer (vocabulary)
tokenizer = BertTokenizer.from_pretrained('bert-base-uncased')

# Tokenize input
text = "[CLS] Who was Jim Henson ? [SEP] Jim Henson was a puppeteer [SEP]"
tokenized_text = tokenizer.tokenize(text)

# Mask a token that we will try to predict back with `BertForMaskedLM`
masked_index = 8
tokenized_text[masked_index] = '[MASK]'
assert tokenized_text == ['[CLS]', 'who', 'was', 'jim', 'henson', '?', '[SEP]', 'jim', '[MASK]', 'was', 'a', 'puppet', '##eer', '[SEP]']

# Convert token to vocabulary indices
indexed_tokens = tokenizer.convert_tokens_to_ids(tokenized_text)
# Define sentence A and B indices associated to 1st and 2nd sentences (see paper)
segments_ids = [0, 0, 0, 0, 0, 0, 0, 1, 1, 1, 1, 1, 1, 1]

# Convert inputs to PyTorch tensors
tokens_tensor = torch.tensor([indexed_tokens])
segments_tensors = torch.tensor([segments_ids])

让我们看看如何使用BertModel隐藏状态对输入进行编码:

# Load pre-trained model (weights)
model = BertModel.from_pretrained('bert-base-uncased')

# Set the model in evaluation mode to deactivate the DropOut modules
# This is IMPORTANT to have reproducible results during evaluation!
model.eval()

# If you have a GPU, put everything on cuda
tokens_tensor = tokens_tensor.to('cuda')
segments_tensors = segments_tensors.to('cuda')
model.to('cuda')

# Predict hidden states features for each layer
with torch.no_grad():
    # See the models docstrings for the detail of the inputs
    outputs = model(tokens_tensor, token_type_ids=segments_tensors)
    # Transformers models always output tuples.
    # See the models docstrings for the detail of all the outputs
    # In our case, the first element is the hidden state of the last layer of the Bert model
    encoded_layers = outputs[0]
# We have encoded our input sequence in a FloatTensor of shape (batch size, sequence length, model hidden dimension)
assert tuple(encoded_layers.shape) == (1, len(indexed_tokens), model.config.hidden_size)

以及如何用于BertForMaskedLM预测屏蔽标记:

# Load pre-trained model (weights)
model = BertForMaskedLM.from_pretrained('bert-base-uncased')
model.eval()

# If you have a GPU, put everything on cuda
tokens_tensor = tokens_tensor.to('cuda')
segments_tensors = segments_tensors.to('cuda')
model.to('cuda')

# Predict all tokens
with torch.no_grad():
    outputs = model(tokens_tensor, token_type_ids=segments_tensors)
    predictions = outputs[0]

# confirm we were able to predict 'henson'
predicted_index = torch.argmax(predictions[0, masked_index]).item()
predicted_token = tokenizer.convert_ids_to_tokens([predicted_index])[0]
assert predicted_token == 'henson'
OpenAI GPT-2

这是一个快速入门示例,该示例使用GPT2Tokenizer和GPT2LMHeadModel类以及OpenAI的预训练模型来预测文本提示中的下一个标记。

首先,我们使用以下命令从文本字符串准备标记化的输入 GPT2Tokenizer

import torch
from transformers import GPT2Tokenizer, GPT2LMHeadModel

# OPTIONAL: if you want to have more information on what's happening, activate the logger as follows
import logging
logging.basicConfig(level=logging.INFO)

# Load pre-trained model tokenizer (vocabulary)
tokenizer = GPT2Tokenizer.from_pretrained('gpt2')

# Encode a text inputs
text = "Who was Jim Henson ? Jim Henson was a"
indexed_tokens = tokenizer.encode(text)

# Convert indexed tokens in a PyTorch tensor
tokens_tensor = torch.tensor([indexed_tokens])

让我们看看如何使用它GPT2LMHeadModel来在文本之后生成下一个标记:

# Load pre-trained model (weights)
model = GPT2LMHeadModel.from_pretrained('gpt2')

# Set the model in evaluation mode to deactivate the DropOut modules
# This is IMPORTANT to have reproducible results during evaluation!
model.eval()

# If you have a GPU, put everything on cuda
tokens_tensor = tokens_tensor.to('cuda')
model.to('cuda')

# Predict all tokens
with torch.no_grad():
    outputs = model(tokens_tensor)
    predictions = outputs[0]

# get the predicted next sub-word (in our case, the word 'man')
predicted_index = torch.argmax(predictions[0, -1, :]).item()
predicted_text = tokenizer.decode(indexed_tokens + [predicted_index])
assert predicted_text == 'Who was Jim Henson? Jim Henson was a man'

可以在文档中找到每种模型架构(Bert,GPT,GPT-2,Transformer-XL,XLNet和XLM)的每个模型类的示例。

使用过去的模型

GPT-2以及其他一些模型(GPT,XLNet,Transfo-XL,CTRL)都使用past或mems属性,当使用顺序解码时,可以使用或属性来防止重新计算键/值对。它在生成序列时很有用,因为注意力机制的很大一部分得益于以前的计算。

这是一个使用 带 past 的 GPT2LMHeadModel`和argmax解码的完整示例(仅应作为示例,因为argmax解码会带来很多重复):

from transformers import GPT2LMHeadModel, GPT2Tokenizer
import torch

tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
model = GPT2LMHeadModel.from_pretrained('gpt2')

generated = tokenizer.encode("The Manhattan bridge")
context = torch.tensor([generated])
past = None

for i in range(100):
    print(i)
    output, past = model(context, past=past)
    token = torch.argmax(output[..., -1, :])

    generated += [token.tolist()]
    context = token.unsqueeze(0)

sequence = tokenizer.decode(generated)

print(sequence)

该模型仅需要单个令牌作为输入,因为所有先前令牌的键/值对都包含在中past。

3、术语表

每种模型都不同,但与其他模型相似。因此,大多数模型使用相同的输入,此处将在用法示例中进行详细说明。

3.1 输入id

输入id通常是传递给模型作为输入的唯一必需参数。它们是token的索引,作为模型输入的序列tokens的数字表示。

每个标记器的工作方式不同,但基本机制保持不变。这是一个使用BERT标记器的示例,它是一个WordPiece标记器:

from transformers import BertTokenizer
tokenizer = BertTokenizer.from_pretrained("bert-base-cased")

sequence = "A Titan RTX has 24GB of VRAM"

tokenizer负责将序列拆分为令牌生成器词汇表中可用的令牌。

# Continuation of the previous script
tokenized_sequence = tokenizer.tokenize(sequence)
assert tokenized_sequence == ['A', 'Titan', 'R', '##T', '##X', 'has', '24', '##GB', 'of', 'V', '##RA', '##M']

然后可以将这些令牌转换为模型可以理解的ID。有几种方法可用于此目的,推荐的方法是encode或encode_plus,它们利用Rusting face / tokenizers的Rust实现来实现 最佳性能。

# Continuation of the previous script
encoded_sequence = tokenizer.encode(sequence)
assert encoded_sequence == [101, 138, 18696, 155, 1942, 3190, 1144, 1572, 13745, 1104, 159, 9664, 2107, 102]

该编码和encode_plus方法自动给特殊的ID的模型使用添加“special tokens” 。

3.2 注意力掩码

注意力掩码是将序列批处理在一起时使用的可选参数。此参数向模型指示应该注意哪些令牌,哪些不应该注意。

例如,考虑以下两个序列:

from transformers import BertTokenizer
tokenizer = BertTokenizer.from_pretrained("bert-base-cased")

sequence_a = "This is a short sequence."
sequence_b = "This is a rather long sequence. It is at least longer than the sequence A."

encoded_sequence_a = tokenizer.encode(sequence_a)
assert len(encoded_sequence_a) == 8

encoded_sequence_b = tokenizer.encode(sequence_b)
assert len(encoded_sequence_b) == 19

这两个序列的长度不同,因此不能按原样放在同一张量中。需要将第一个序列填充到第二个序列的长度,或者将第二个序列截短到第一个序列的长度。

在第一种情况下,ID列表将通过填充索引扩展:

# Continuation of the previous script
padded_sequence_a = tokenizer.encode(sequence_a, max_length=19, pad_to_max_length=True)

assert padded_sequence_a == [101, 1188, 1110, 170, 1603, 4954,  119, 102,    0,    0,    0,    0,    0,    0,    0,    0,   0,   0,   0]
assert encoded_sequence_b == [101, 1188, 1110, 170, 1897, 1263, 4954, 119, 1135, 1110, 1120, 1655, 2039, 1190, 1103, 4954, 138, 119, 102]

然后可以将它们转换为PyTorch或TensorFlow中的张量。注意掩码是一个二进制张量,指示填充索引的位置,以便模型不会注意它们。对于 BertTokenizer,请1指示应注意的值,而0指示已填充的值。

方法encode_plus()可用于直接获取注意模版:

# Continuation of the previous script
sequence_a_dict = tokenizer.encode_plus(sequence_a, max_length=19, pad_to_max_length=True)

assert sequence_a_dict['input_ids'] == [101, 1188, 1110, 170, 1603, 4954, 119, 102, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]
assert sequence_a_dict['attention_mask'] == [1, 1, 1, 1, 1, 1, 1, 1, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0]

3.3 词语类型id

一些模型的目的是进行序列分类或问题解答。这些要求将两个不同的序列编码在相同的输入ID中。它们通常由特殊标记分隔,例如分类器标记和分隔符标记。例如,BERT模型按如下方式构建其两个序列输入:

from transformers import BertTokenizer
tokenizer = BertTokenizer.from_pretrained("bert-base-cased")

# [CLS] SEQ_A [SEP] SEQ_B [SEP]

sequence_a = "HuggingFace is based in NYC"
sequence_b = "Where is HuggingFace based?"

encoded_sequence = tokenizer.encode(sequence_a, sequence_b)
assert tokenizer.decode(encoded_sequence) == "[CLS] HuggingFace is based in NYC [SEP] Where is HuggingFace based? [SEP]"

对于某些模型而言,这足以了解一个序列在何处结束,而另一序列在何处开始。但是,其他模型(例如BERT)具有附加机制,即段ID。令牌类型ID是一个二进制掩码,用于标识模型中的不同序列。

我们可以利用encode_plus()它为我们输出令牌类型ID:

# Continuation of the previous script
encoded_dict = tokenizer.encode_plus(sequence_a, sequence_b)

assert encoded_dict['input_ids'] == [101, 20164, 10932, 2271, 7954, 1110, 1359, 1107, 17520, 102, 2777, 1110, 20164, 10932, 2271, 7954, 1359, 136, 102]
assert encoded_dict['token_type_ids'] == [0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 1, 1, 1, 1, 1, 1, 1, 1, 1]

第一个序列,即用于问题的“上下文”,其所有标记均由表示0,而问题的所有标记均由表示1。某些模型(例如)XLNetModel使用以表示的附加令牌2。

3.4 位置标识id

模型使用位置ID来识别哪个令牌在哪个位置。与将每个令牌的位置嵌入其中的RNN相反,转换器不知道每个令牌的位置。为此创建了职位ID。

它们是可选参数。如果没有位置ID传递给模型,则它们将自动创建为绝对位置嵌入。

在范围内选择绝对位置嵌入。一些模型使用其他类型的位置嵌入,例如正弦形位置嵌入或相对位置嵌入。[0, config.max_position_embeddings - 1]

HuggingFace的Transformers库Tokenizer和Model使用技巧 Bert模型作为一个强大的双向Transformer模型,已经在NLP领域广泛使用并作为word embeddding 预训练模型深受青睐。Hugging Face的transformers框架包含BERT、GPT、GPT2、ToBERTa、T5等众多模型,同时支持pytorch和tensorflow 2两个框架,本博客主要介绍如何从Hugging Face加载预训练模型及高效使用。 阅读详情

相关推荐

NLP神器Transformers入门简单概述

🤗 Transformers 提供了易于使用的 API 和工具,使得下载和训练前沿的预训练模型变得轻而易举。下表展示了库对每种模型的当前支持情况,包括它们是否有 Python 分词器(称为“慢”分词器)、由 🤗 Tokenizers 库支持的“快”分词器、以及它们在 Jax(通过 Flax)、PyTorch 和/或 TensorFlow 中的支持情况。无论你是研究人员、开发者还是AI爱好者,🤗 Transformers 都能帮助你推动项目的进展,实现惊人的成果。

CDBmax的博客 1487

LLM:Transformers 库

Transformers 库是一个开源库,其提供的所有预训练模型都是基于 transformer 模型结构的。Transformers 库支持三个最流行的深度学习库(PyTorch、TensorFlow 和 JAX)。我们可以使用 Transformers 库提供的 API 轻松下载和训练最先进的预训练模型。使用预训练模型可以降低计算成本,以及节省从头开始训练模型的时间。这些模型可用于不同模态的任务,例如:文本:文本分类、信息抽取、问答系统、文本摘要、机器翻译和文本生成。图像:图像分类、目标检测和图像分割。

皮皮blog 8167

Transformers 快速入门 | 一

作者|huggingface 编译|VK 来源|Github 理念 Transformers是一个为NLP的研究人员寻求使用/研究/扩展大型Transformers模型的库。 该库的设计有两个强烈的目标: 尽可能简单和快速使用: 我们尽可能限制了要学习的面向对象抽象的类的数量,实际上几乎没有抽象,每个模型只需要使用三个标准类:配置、模型和tokenizer, 所有这些类都可以通过使用公共的fro...

TensorFlowNews 5591

Transformers 库的基本使用

本内容主要介绍 Transformers 库 的基本使用。

步入人工智能 5万+

NLP 初学者快速熟悉Transformers 库的使用方法

Transformers 是由 Hugging Face 开发的一个非常流行的自然语言处理(NLP)库,它提供了数千个预训练模型,用于执行各种 NLP 任务,如文本分类、问答、文本生成等。

u014177256的博客 1399

Windows安装Hugging Face Transformers库并实现案例训练的详细教程

访问Python官网(https://www.python.org/downloads/windows/),下载适用于Windows的Python 3.10+安装包(推荐最新版Python 3.13.2)。这是一个包含Yelp评论和评分的数据集,通常用于文本分类任务。访问PyTorch官网(https://pytorch.org/),选择适合的配置(若有独立支持GPU,推荐CUDA版本)(在页面的中间位置)。加载训练好的模型,可以应用于各种NLP任务,如:文本分类、问答系统、文本生成、序列标注等。

搏博的专栏 2470

最新自然语言处理库transformers

作 者 | huggingface编 译 | VK来 源 | GithubTransformers是TensorFlow 2.0和PyTorch的最新自然语言处理库Transform...

abcdefg90876的博客 8472

transformers库学习笔记(一):安装与测试

印象中觉得transformers是一个庞然大物,但实际接触后,却是极其友好,感谢huggingface大神。原文见tmylla.github.io。 ​ 安装 我的版本号:python 3.6.9;pytorch 1.0;CUDA 10.0。 pip install transformers pip之前确保安装1.1.0+。 ​ 测试 验证代码与结果 python -c "from transformers import pipeline; print(pipeline('sentiment-an.

misite_J 7263

【自然语言处理|迁移学习-04】Transformers库介绍以及pipeline的使用

本篇文章简要介绍了transformers库,并对使用pipeline工具处理各种npl任务进行介绍

YIAN爱学习的博客 1985

《一文读懂Transformers库:开启自然语言处理新世界的大门》

Transformers 库在自然语言处理领域的重要性不言而喻,它已经成为推动 NLP 技术发展的核心力量之一。通过对 Transformer 模型架构的深入理解,我们认识到其创新的自注意力机制、多头注意力机制以及位置编码等设计,为处理自然语言的复杂性提供了强大的工具。从功能上看,Transformers 库提供了丰富的预训练模型,涵盖了各种 NLP 任务,使得开发者能够快速将先进的模型应用到实际项目中。

zheng_ruiguo的专栏 1627

Transformers架构系列---transformers库的使用

Transformers最初是由Google发布的论文 Attention is All You Need (2017) 提出的一种新的深度学习网络架构,这篇论文证明了序列模型(如 LSTM)可以完全被注意力机制取代,甚至可以获得更好的性能。Transformers网络结构自2017年提出之后仅仅一两年的时间内就一直在NLP领域及其子任务霸榜,目前的LLM大语言模型(ChatGPT、ChatGLM等)都是基于Transformers网络架构。Transformers不仅在NLP领域表现出色,自2020年开始

qq_42681787的博客 1661

基于transformers的自然语言处理(NLP)入门1.1-Transformers在NLP中的兴起

基于transformers的自然语言处理(NLP)入门1.1-Transformers在NLP中的兴起

lw19155275856的博客 1226

Python Transformers库【NLP处理库】全面讲解

作用:提供预训练模型(如 BERT、GPT、RoBERTa)和工具,用于 NLP 任务(文本分类、翻译、生成等)。核心组件Tokenizer:文本分词与编码Model:神经网络模型架构Pipeline:快速推理的封装接口# 加载数据集# 定义模型# 训练参数配置# 训练器配置# 开始训练loss_fct = torch.nn.CrossEntropyLoss(weight=torch.tensor([1.0, 2.0])) # 类别权重。

记录点滴 6269

【10】Transformers快速入门:Transformers 库让你做 NLP 任务变得超级简单

核心思想:Transformers 库让你做 NLP 任务变得超级简单!想象一下,你想让电脑理解人类的语言(比如判断一句话是夸人的还是骂人的,或者把英文翻译成中文)。以前做这些事(NLP任务)需要很多复杂的步骤,自己写很多代码,还要懂很多专业知识,非常麻烦。Transformers 库(尤其是里面的 功能)就像一个“智能语言处理工具箱”。工具箱里有什么? 这个工具箱预装了很多现成的“智能工具”(预训练模型),专门处理不同类型的语言任务:怎么用这个工具箱? 核心就是 这个超级好用的功能! 自动选模型:

叫好与叫座虽然不是对立面,但想在同一个作品中达到双重效果很难。 953

超10万,两台Mac Studio在家就能跑满血DeepSeek,网友:这是性价比最高的大模型一体机

在AI计算领域,没有比这更强的个人电脑了。这要从它的架构说起。对于那些有本地部署满血版DeepSeek需求的用户,目前建议的配置是选购512GB统一内存 + 1TB SSD,搭载M3 Ultra芯片的Mac Studio,官网售价74249元,可以叠加国补、教育优惠、12期分期等,这可能是目前门槛最低、性价比最高的满血版DeepSeek本地部署方案。对于企业而言,尽管Mac Studio确实可以部署6000亿参数的大模型,但在内存带宽、模型精调服务等方面,跟专用的大模型一体机仍有差距,采购需要谨慎评估。

2501_90444774的博客 1929

设备管理器找不到蓝牙?从驱动到BIOS的系统排查指南

在Windows系统中,蓝牙功能依赖硬件、驱动、系统服务三层协同工作。设备管理器作为硬件状态的可视化窗口,当蓝牙设备消失时,往往意味着某一层链路中断。常见原因包括BIOS无线开关关闭、驱动异常、蓝牙支持服务被禁用,或系统文件损坏。排查思路应从基础概念出发,先理解蓝牙设备在设备管理器中的四种隐藏位置,再通过扫描硬件、检查BIOS、重装驱动、修复服务等步骤逐层定位。这一方法不仅适用于Windows电脑,也适用于HC-05、ESP32等嵌入式蓝牙模块,因为硬件、协议栈、应用层的故障逻辑相通。掌握这套技术价值在于减

weixin_33377602的博客 276

在Miniconda中安装HuggingFace Transformers库进行NLP实验

通过Miniconda创建隔离的Python环境,结合HuggingFace Transformers库,构建可复现、高效的自然语言处理实验平台。涵盖环境配置、模型推理、训练流程及常见问题解决方案,提升开发效率与团队协作能力。

weixin_42601134的博客 774

android11-修改屏幕显示方向和触摸方向

参数0表示12点钟方向显示参数90表示3点钟方向显示参数180表示6点钟方向显示参数270表示9点钟方向显示。

Paper_Love的博客 2121

【学习笔记】Transformers库笔记

库API文档: https://huggingface.co/transformers/ 版本号: 4.3.0 序言 Transformers库应该算是一个比较新的项目,截至2021年3月2日,当中已经收录了不少arxiv上2020年发表的论文的模型代码,通过这个库可以非常轻松的调取最先进的,包括BERT在内的深度学习模型(以自然语言处理领域的模型为主),并且可以使用PyTorch或TensorFlow 2.x进行继续训练或微调。 相对于Tensorhub需要翻墙,目前在网络情况不错的情况下,从hugg.

梦想破三的奔三狗 2万+

Qt C++ 串口调试助手

1. **串口配置**:支持自动检测可用串口,可配置波特率(9600~921600)、数据位(5~8)、校验位(无/奇/偶/标记/空格)、停止位(1/1.5/2)。- HEX 模式发送时,输入格式需为十六进制字符(0-9、A-F),可带空格(如 `01 A3 FF`)或不带空格(如 `01A3FF`)。// 发送模式:true=HEX,false=ASCII。// 字符串转HEX字节数组。ui->parity->addItems({"无", "奇校验", "偶校验", "标记校验", "空格校验"});

寒寒豆豆软件公司的博客 151

innovus:ccopt_design分段长tree操作

这步don't touch保证后面完整cts尽量不会动到已经长过的tree。需要给sub tree手写一个spec,参考create_ccopt_clock_tree_spec -file的写法,只写create_ccopt_clock_tree和skew group部分就行。

m0_61544122的博客 1684

快速体验transformers安装、应用之旅

在当前人工智能的快速发展时代,🤗 Transformers库成为了众多开发者和数据科学爱好者的宝贵工具。它不仅简化了使用预训练模型的过程,还提供了一个易于使用的接口来进行复杂的自然语言处理、计算机视觉和音频处理任务。无论你是一名开发人员还是日常用户,只要对机器学习有所涉猎,本文将带你快速了解如何启动并运行🤗 Transformers。

CDBmax的博客 3024

告别 GENERATE_SUBPOOL_DIR_FULL:用 RTTC 平替 CL_ALV_TABLE_CREATE=>CREATE_DYNAMIC_TABLE 的一套更稳方案

文章摘要:本文探讨了ABAP开发中动态内表的创建问题,重点分析了使用CL_ALV_TABLE_CREATE方法可能遇到的GENERATE_SUBPOOL_DIR_FULL错误。该错误源于临时subroutine pool的36次创建上限,常在批量处理或频繁调用时出现。文章提出基于RTTC技术的替代方案ZCL_ALV_TABLE_CREATE_RTTC,通过运行时类型服务直接创建动态内表,无需生成临时代码,从而规避了资源限制。该方法保持接口兼容性,只需简单替换类名即可实现无缝迁移,是解决动态表创建瓶颈的有效方

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 234

自然语言处理Hugging Face Transformers

Hugging Face Transformers 是一个基于 PyTorch 和 TensorFlow 的开源库,专注于 最先进的自然语言处理(NLP)模型,如 BERT、GPT、RoBERTa、T5 等。它提供了 预训练模型、微调工具和推理 API,广泛应用于文本分类、机器翻译、问答系统等任务。

wangmengmeng99的博客 1526

华为OD机试真题2025双机位A卷 C++ 实现【采购订单】

在一个采购系统中,采购申请(PR)需要经过审批后才能生成采购订单(PO)。每个PR包含商品的单价(假设相同商品的单价一定是一样的)及数量信息。系统要求对商品进行分类处理:单价高于100元的商品需要单独处理,单价低于或等于100元的相同商品可以合并到同一采购订单PO中。针对单价低于100的小额订单,如果量大可以打折购买。

MISAYAONE的博客 679

综述性论文别再堆砌文献!用GPT-5.1 Thinking轻松攻克四大关键难点,真正实现高效高质撰写(附AI提示词)

逻辑构建上以往都是先梳理一篇文献的领域研究脉络,明确其发展阶段、核心议题等,再搭建初步的大纲,借助思维导图或者别的方式将筛选后的文献观点按主题归类到对应章节,理清楚每个章节间的递进或并列关系,最后再逐个章节进行补充过渡表述,那么做的目的其实就是摆脱文献堆砌问题。人工做法往往是对比不同文献的研究方法、数据来源与核心结论,再清晰标注每类成果的优缺点,找到文献中存在的争议焦点,找到之后再梳理争议产生的核心原因,最后在基于现有研究,推出还未被探索的研究方向,从而提炼出创新切入点。2)文献之间的相同点与不同点;

智能AI让学术科研更容易 175
上一篇: 智能运维-Prometheus时序数据库PromQL使用(基本语法、API调用等)
下一篇: 开发工具-jupyter notebook切换到其他配置好的conda虚拟环境
评论 1
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
⌂ 换网址