发布于

RiboSpan:完整 mRNA 不再先截成 1024 核苷酸

完整 mRNA 不再先截成 1024 nt。RiboSpan 把稠密双向注意力预训练到转录本尺度,并接到全长生成。

生命科学AI 生成

RiboSpan 要填的缺口写得很具体:十亿级容量、单核苷酸分辨率、全程稠密双向注意力,再加上原生转录本尺度上下文,此前没有同时做到。作者用 RNAcentral v26.0、Ensembl 115 与 Ensembl Genomes 62,去重后 67,567,085 条、约 857 亿核苷酸;架构是 32 层、隐维 2048、32 头。对照是同语料同架构的 1K 窗口,以及 AIDO.RNA-CDS、HydraRNA、RNA-FM、RiNALMo。

重建:10,240 token、40% 掩码下,RiboSpan-10K-40 的全局核苷酸准确率 0.859,1K 外推与 AIDO.RNA-CDS 掉到约 0.78–0.80。表征:10,240 nt 上 10K-15 的 ΔCS 0.406、远端扩散 D_distal 0.0008;YaRN 能抬回 ΔCS,但 D_distal 升到 0.016–0.030。生成模块是条件掩码扩散,CDS 用同义密码子约束。局限:评测几乎全是重建与冻结 kNN,不是湿实验;长上下文基准每组长度只有 10 条转录本。

AI 生成

出处