让大模型「先推理再改药」:DrugR 破解多目标药物优化平衡难题

当前,大语言模型(LLM)已在多类通用任务中展现出强大能力,并正推动药物研发走向“「数据与智能协同驱动」;但LLM 是否真正具备对分子结构与各类复杂药理属性关系的理解能力仍然存疑。针对这一问题,社区成员 THUNLP 实验室的研究者在最新论文中提出了药物分子优化显式推理模型DrugR:其由知识注入、显式推理监督微调和自平衡多目标强化学习三大模块组成,面向23个ADMET 优化目标,在多类真实药物场景中系统揭示了当前LLM的能力边界。

DrugR 核心亮点一览

显式推理驱动优化:首个将结构化药理推理链引入LLM分子优化的框架,模型须先生成可解释的优化依据,实现「先想清楚,再动手改」;

逆向数据工程:摒弃昂贵的人工标注,以DrugBank已验证药物为锚点,通过“生成 → 筛选 → 反向推导推理”的创新流程,自动构建高质量显式推理训练数据;

自平衡多粒度强化学习:针对多目标优化中的收敛失衡难题,提出样本级Pareto感知重加权与批级动态缩放的双层自适应机制,驱动23个药理属性协同提升;

痛点精准定位:深入揭示现有模型在隐式结构-性质推理、多目标失衡收敛、跨药物泛化及自主规划可解释性等方面的关键瓶颈。

成果论文

➤ 论文链接

🔗https://arxiv.org/abs/2602.08213

➤ Hugging Face

🔗 https://github.com/Haoranliu-lab/DrugR-main

更全优化维度:属性+结构+决策多粒度

DrugR不仅仅关注模型改了什么分子,更关注模型为何这么改、是否有理有据。框架设计跨越三个层级,全面挑战LLM的药理推理极限:

领域预训练(Continuous Pre-training):以 LLaMA-3-8B-Instruct为基础,融合ChemicalQA(~150K)、MoleculeNet(~160K)等专业化学与药学语料,强化模型对分子结构与药理属性的基础认知;

监督微调(Supervised Fine-tuning):通过逆向数据工程构建4,855个推理链+优化SMILES的高质量监督数据对,采用课程学习策略,让模型从学会生成正确分子、逐步进阶至生成符合药理的推理过程;

强化学习(Reinforcement Learning):以GRPO算法为骨干,引入自平衡多粒度机制,重点考察模型在23个ADMET 指标上的多目标综合决策能力,要求模型在分子合理性、相似度、药性等多个相互制约的优化目标间实现真正的协同提升。

DrugR的三阶段训练过程

更真能力边界:揭示LLM的「药理短板」

在对包括 GPT-4o、DeepSeek-R1、Qwen2.5等主流开源及闭源模型进行系统评测后,论文结果显示,尽管LLM在通用推理领域表现优异,但在多目标药物优化场景下仍面临严峻挑战:

DrugR 综合优化分数达到 0.27,远超直接调用 DeepSeek-R1(0.18)等强基线,尤其在目标属性识别(F1: 0.44 vs 0.19)与推理质量(LMS: 0.77 vs 0.70)方面优势显著。这也印证了药物分子设计场景的复杂性,和通用LLM在垂直任务中的能力短板。

消融实验揭示,完全去除推理过程、让模型直接生成优化分子,综合优化分数从0.27 急剧跌落至0.015。这一结果有力地证明:推理链不是锦上添花,而是药物优化任务成立的核心支撑。

各基线方法与我们的方法在整体优化性能上的比较

更多行为洞察:模型在推理什么?

DrugR通过细粒度的定性与定量分析,打破了对LLM药物优化能力的笼统认知,挖掘出阻碍AI药物设计落地的核心痛点:

痛点一:多目标失衡引发的顾此失彼。在同时优化23个 ADMET 属性时,朴素强化学习策略面临严重的收敛失衡——部分属性过度优化而另一些属性被长期忽视。实验发现,引入Pareto感知重加权后,各属性的联合提升曲线显著趋于同步,证明自平衡机制对多目标优化的必要性。

痛点二:隐式构效关系映射黑盒。现有LLM在无推理约束时,往往以经验直觉输出优化结果,无法说明为什么某个特定修改会改善对应的性能。DrugR强制引入推理链后,模型输出的药理依据与领域专家判断高度吻合,推理准确率(目标属性 F1)提升超过 128%。

痛点三:结构相似性与功能改善的两难困境。在不约束结构相似性的条件下,模型容易生成药理属性极佳但与原药骨架面目全非的分子,失去实际药用价值。DrugR的推理链机制天然地约束了优化方向,使得最终分子在指纹相似度(0.64)与结合亲和力(96% 满足 ≤-6 kcal/mol 约束)上均达到实用标准。

痛点四:跨域泛化的迁移壁垒。现有模型往往针对单一疾病领域训练,换一类药物便需从头来过。DrugR在从未见过的抗癌分子数据集上,仅用50个样本微调,综合优化分数即可达 0.21,展示出强大的跨领域迁移能力,为低资源场景下的药物设计提供了可行路径。

为直观呈现上述能力,论文展示了DrugR在抗高血压、抗炎等药物中的代表性优化案例,以蓝色标注与结构修改一致、机制清晰的有效推理(如“引入极性基团改善膜渗透性”)。

案例研究

迈向可解释、可审查的智能药物设计:该研究旨在为社区提供一种显式推理驱动、支持多目标协同优化且具备跨域迁移能力的药物优化新范式。通过整合知识注入、推理监督和自平衡强化学习,DrugR 不仅展现了 LLM 在药物设计中的潜力,也揭示了其在多目标优化、结构—性质推理、跨药物泛化和可解释性方面仍存在明显挑战。这些发现进一步刻画了通用LLM与真实药物优化需求之间的能力差距。作者团队表示,:希望DrugR能成为连接两者的桥梁,让模型不仅改得好、也说得清,推动AI辅助药物设计走向更可解释、可审查、可信赖的真实研发流程。