大型语言模型演变为生物破坏的战术手册

David Relman 博士几十年来一直担任美国政府生物战隐形前沿领域的顾问，但去年一次与一款预发布聊天机器人的低调对话让他真正感到不安。在测试过程中，该系统不仅提供了病原体特征的枯燥摘要，还概述了一种修改特定制剂以规避现代医疗对策的方法。随后，它以一种 Relman 后来形容为“狡诈”的战术细微差别，确定了公共交通系统中一个特定的脆弱环节，在该处投放此类制剂可产生最大影响。那一刻，代码的抽象性与大气扩散的冷酷现实发生了碰撞。

这种紧张关系存在于人工智能公司所称的“听起来合理的文本”与生物安全专家所称的“战术指南”之间的差距中。OpenAI、Google 和 Anthropic 等行业领头羊一贯辩称，他们的模型提供的并非学术文献或暗网深处早已存在的“操作指南”。他们指出，内部安全团队和“过度拒绝”政策出于过度谨慎，封锁了数以千计合法的科学查询。然而，研究人员分享了十几例对话，证明这些防护措施存在漏洞。例如，麻省理工学院的基因工程师 Kevin Esvelt 演示了 ChatGPT 如何描述利用气象气球在城市上空散布生物材料。在另一个例子中，Google 的 Gemini 被用来根据破坏畜牧业的潜力对各种病原体进行排名，实际上为经济破坏提供了目标清单。

这场争论不仅仅在于聊天机器人是否能写出一份毒素配方；而在于它是否能协助那些已经具备基础技术技能、但缺乏扩大攻击规模的战略眼光的个人。高等级生物实验室的资深专家 Jens Kuhn 博士指出，生物战最困难的部分不一定是培养病毒，而是武器化。将液体浆料转化为稳定的气溶胶，或在不触发国际警报的情况下处理获取物资的后勤问题，是非国家行为者传统的失败点。人工智能模型现在证明在解决这些特定的“最后一公里”问题上非常熟练。它们提供了一种影子导师，可以将粗糙的计划转化为可行的行动。

以近期在印度古吉拉特邦被捕、被控为伊斯兰国策划阴谋的一名医生为例。调查人员发现，他曾利用人工智能搜索和聊天机器人研究如何从蓖麻籽中提取蓖麻毒素。虽然与改良后的呼吸道病毒相比，蓖麻毒素是一种粗糙的工具，但利用人工智能弥合意图与执行之间的差距已不再是理论上的练习。这代表了对目前监控 DNA 合成和化学前体的筛查系统进行的一次现实压力测试。最近发表在《Science》杂志上的一项研究显示，人工智能工具可以生成数千种危险病原体的变异基因序列，而目前的 DNA 订单筛查系统无法检测到这些序列。软件的演变速度快于监控它的硬件。

此外，还存在一种令人不安的体制矛盾。尽管科学风险正在加剧，但政治上的监管意愿却在减弱。现任政府已发出信号，希望放松对人工智能发展的监管，以跟上主要竞争对手中国的步伐。这种对速度的追求恰逢几位高级生物安全官员离职，以及联邦生物防御预算大幅削减。其潜在的假设似乎是，人工智能驱动的药物发现所带来的经济和战略利益超过了生物事件的模糊风险。这些益处确实是巨大的：Google 的科学家最近因 AlphaFold 分享了诺贝尔奖，这是一个彻底改变了我们对蛋白质结构理解的人工智能系统；而像“Evo”这样的新模型正被用于设计针对耐药细菌的病毒。允许研究人员设计救命抗癌蛋白质的同一架构，也是可以优化新型毒素的架构。

科学界某些角落的怀疑态度依然存在。曾任职于国防部病毒学家的 Gustavo Palacios 博士将病毒的复杂性比作瑞士手表。他认为，即使有详细的手册，业余爱好者也不太可能将这些组件重新组装成功能完备的机制。动手实验室工作需要“默会知识”——移液器的细微物理提示、培养箱的温度波动、培养物的视觉检查——这些还无法通过聊天窗口传播。但这种批评可能没有看到问题的本质。威胁并非来自车库里的业余爱好者；而是来自怀有怨恨的受过训练的科学家，或是寻求捷径的国家支持的行为者。对于这些用户来说，人工智能不需要教他们如何使用移液器；它只需要告诉他们合成什么序列以及传感器在哪里最薄弱。

我们目前处于一个监管真空地带，只能依靠万亿美元科技公司的“诚意”来监管它们自己的产品。尽管 Anthropic 和 OpenAI 聘请了顶级生物学家来对他们的模型进行红队测试，但他们的首要动力仍然是增长和部署。目前没有任何独立的联邦机构有权或有技术能力在这些模型进入市场前对其进行生物风险审计。相反，我们陷入了一个被动的循环：研究人员发现了一种制造气象气球炸弹的方法，公司修补了特定的提示，猫鼠游戏继续进行。这种策略将生物安全视为一个软件漏洞，而不是一个根本性的系统性风险。