单细胞测序技术已经非常成熟,但大多数课题组仍然被困在一个瓶颈里: 观察得到变化,却很难低成本验证“到底哪个基因的改变,真正驱动了细胞状态的转变” 。
过去解决这个问题,要么依赖CRISPR筛选,要么做慢病毒敲低/敲除,周期以月为单位,经费以万为单位。而现在,以Geneformer为代表的 生成式AI扰动模型 ,把这件事的验证成本压缩到了几十分钟——通过虚拟基因敲除,直接在预训练模型上模拟“如果这个基因不表达了,细胞会变成什么样”,再结合机器学习SHAP解释,快速锁定关键调控基因。
这个方向最近热度很高,但它不是“搞个深度学习模型跑一跑”那么简单。里面有一系列容易踩坑的问题:输入数据怎么做rank值编码?虚拟敲除到底该mask基因还是置零?怎么判断扰动后细胞状态的变化是真实的生物学信号,而不是模型噪声?SHAP值在这里到底能解释什么、不能解释什么?
这篇文章会从技术原理到代码实现,完整拆解Geneformer虚拟扰动分析的全流程。无论你是做生信分析想引入AI模型,还是做机器学习想找一个有真实应用价值的落地方向,这篇文章都值得读完并收藏。
1. 为什么虚拟扰动分析值得关注
1.1 湿实验验证的痛点
先看一组现实困境。
假设你在单细胞转录组数据中发现了一个与疾病进展显著相关的基因,比如某个转录因子在耐药细胞亚群中高表达。你想验证: 这个基因是不是耐药状态的核心驱动基因?
传统思路是这样的:
- 设计sgRNA或shRNA,构建敲除/敲低载体。
- 病毒感染目标细胞系,筛选稳定株。
- 做功能实验,再收细胞做测序。
- 分析敲除前后转录组差异。
整个过程,顺利的话需要数周甚至数月。如果不顺利——比如这个基因对细胞增殖至关重要,敲除后细胞直接死亡——那你甚至得不到可分析的数据。
这是一个结构性的矛盾: 转录组数据是海量的,但功能验证是低频的 。大规模队列研究可以筛出成百上千个候选基因,但不可能全部用湿实验验证。
1.2 AI扰动模型改变了什么
AI扰动模型(in silico perturbation model)改变的不是湿实验本身,而是 验证筛选的优先级排序 。
它做的事情很简单:在大量单细胞转录组数据上预训练一个模型,学习“基因表达状态 -> 细胞状态”的映射关系。然后,通过修改输入中的目标基因(模拟敲除),观察模型输出的细胞状态预测是否发生显著变化。
这个过程有两个直接价值:
- 成本趋近于零 :不需要养细胞、不需要做病毒包装,只需要GPU跑一次forward。
- 可以大规模筛选 :一个细胞类型里的几百个候选转录因子,可以在一天内全部做完虚拟敲除,输出一个优先级排序列表。
当然,虚拟验证不能替代湿实验。它的真正定位是: 把有限的湿实验资源,集中到最有可能成功的靶基因上 。这也符合当前AI for Science领域的共识——AI模型负责缩小搜索空间,实验负责最终验证。
1.3 谁最应该关注这个技术
从读者画像来看,有三类人最适合深入了解Geneformer虚拟扰动分析:
- 单细胞生信分析人员 :已经跑通了Seurat、Scanpy等标准流程,希望在现有分析基础上加入更前沿的基因调控推断。
- 机器学习/深度学习从业者 :熟悉Transformer架构和SHAP解释,希望找到一个有真实生物学应用价值的落地方向。
- 药物靶点发现与疾病机制研究者 :需要从海量组学数据中快速筛选功能基因,降低实验试错成本。
如果你属于其中任何一类,下面的内容都值得仔细看。
2. Geneformer核心概念与设计思路
2.1 什么是Geneformer
Geneformer是由哈佛医学院Theo Bours团队开发的一个基于Transformer架构的 单细胞转录组基础模型 。它的核心思想与自然语言处理中的BERT非常相似:在大规模语料上进行自监督预训练,然后通过微调适配各种下游任务。
区别在于,NLP的语料是句子和单词,Geneformer的“语料”是 单细胞的基因表达谱 。
这一点需要先建立直观理解:
- NLP中,一个句子由若干单词构成,单词之间有语法和语义关系。
- Geneformer中,一个细胞由若干基因的表达值构成,基因之间有调控和共表达关系。
- 语言模型学习的是“单词在上下文中的用法”,Geneformer学习的是“基因在细胞状态中的共现规律”。
正是这种类比,让Geneformer能够捕捉到传统差异表达分析难以发现的非线性基因调控关系。
2.2 rank value encoding:核心输入设计
Geneformer最关键的预处理步骤是 rank value encoding ,这也是它与普通深度学习模型输入差异最大的地方。
传统的scRNA-seq数据输入模型,一般是归一化后的表达矩阵,或者经过去除批次效应后的PCA降维结果。但Geneformer没有这么干。
它的做法是:
- 对每个细胞,统计所有基因的表达量。
- 只保留在该细胞中表达量排名前一定比例(通常约1/5左右)的基因。
- 按照表达量从高到低排序,用排名(rank)作为token的编码值。
也就是说,每个细胞的输入不是“基因A表达量为5.2,基因B表达量为3.1”,而是“基因A排第1,基因B排第2……”。
这个设计背后的原因值得理解:
- 消除技术噪声 :不同样本、不同测序深度带来的绝对表达量差异,在rank排序后大部分被消除。
- 保持表达层次结构 :排名保留了“哪个基因比哪个基因表达更高”的信息,这在生物学上是有意义的——转录因子和靶基因的相对表达关系往往比绝对数值更稳定。
- 适应Transformer结构 :以基因为token、以表达排名为token顺序,正好构成了一个“序列”,可以让Transformer直接处理。
用一句话概括: Geneformer不是看每个基因绝对表达了多少,而是看基因之间的相对表达秩序 。
2.3 与普通机器学习模型的区别
普通机器学习模型处理单细胞数据,通常是先做特征选择,比如取高变基因2000个,然后训练一个分类器(SVM、随机森林等)来区分细胞类型。这种方式有两个局限:
- 忽视基因之间的非线性互作。
- 无法迁移到未见过的细胞类型或数据集。
Geneformer作为预训练基础模型,解决了这两个问题。预训练阶段学到的是通用的“基因调控语法”,在下游任务微调时,只需要很少的标注数据就能达到不错的效果。更重要的是, 预训练模型可以作为一个可复用的组件 ,在不同数据集、不同任务之间做迁移学习。
3. 虚拟基因敲除的原理与整体流程
3.1 虚拟基因敲除的含义
虚拟基因敲除(virtual knockout)是指在已经训练好的模型上,通过修改输入数据来模拟某个基因功能丧失后,细胞状态的预测变化。
这不同于湿实验中的CRISPR敲除。在湿实验中,你真正改变了细胞的基因组;而在虚拟敲除中,你只是改变了输入给模型的“基因表达观测值”。
一个直观的类比: 这就像让一个经验丰富的医生看病例。你告诉医生,这个病人的某个指标现在是0,请预测病人的状态会变成什么样。医生凭借经验给出判断,但你并没有真的改变病人。
模型是否能给出有意义的预测,取决于它在预训练阶段是否真的学会了基因调控规律。这也是为什么Geneformer强调在大规模、多样化的数据上进行预训练——数据覆盖的生物学多样性越广,虚拟扰动的泛化能力就越强。
3.2 虚拟敲除的常见实现方式
在实操层面,虚拟敲除一般有两种实现策略:
- mask策略 :将目标基因的表达排名置为最低(mask掉),让模型无法看到
394



被折叠的 条评论
为什么被折叠?



