疫苗研究还是危险病原体开发——AI公司面临的隐秘意图

疫苗研究还是危险病原体开发——AI公司面临的隐秘意图

「没有人会说‘让我们制造生物武器’」

提到生成AI的安全措施，很多人会想到“拒绝危险问题的聊天机器人”。然而，Anthropic在2026年9月公布的威胁情报报告揭示了一个更棘手的现实。

恶意用户不一定会诚实地输入他们的目的。尤其是在生命科学领域，研究传染病机制、开发疫苗和治疗药物、使病原体更危险的研究，可能在某些阶段共享相同的专业术语、实验计划和数据分析。单独看一个问题，可能既像是有益于公益的研究，也像是走向武器化的准备。

Anthropic将2025年12月至2026年8月确认的AI不正当和不适当使用总结为154页的报告。其对象涵盖了网络攻击、监视、舆论操控、欺诈、常规武器、生物学滥用等七个领域。其中最引人注目的是，Claude的使用被判断为可能支持生物武器开发的五个案例。

首先需要明确的是，该公司并未断定发现了“生物武器计划”。研究机构和国家名称也被隐去，也没有声称有意对相关科学家造成伤害。确认的是，高风险研究内容、规避地域限制、匿名化、模糊目的等多个警戒因素的重叠。


军事研究机构与基孔肯雅热

最具象征意义的是关于基孔肯雅热病毒的研究资助申请案例。基孔肯雅热是一种由蚊子传播的传染病，会引起发热和剧烈的关节痛，症状可能长期化。由于这种疾病在自然界中流行，即使发生故意传播，也可能难以与自然发生区分。

根据报告，申请书中涉及的是改变与病毒传播和免疫逃避相关性质的研究。这些知识可以用于流行预测和疫苗、治疗方法的开发，同时也可以用于使病原体更危险的目的。此外，研究的实施地点被指示为军事研究机构，这加剧了Anthropic的警惕。

使用途径也不寻常。通过美国基础设施从服务对象外的地区接入，使用不留数据的机制、转售商、伪装账户等。甚至准备了将Claude拒绝的问题转向限制较少的其他公司模型的机制。该公司已停止相关账户，并与相关方推进中继网的切断，但据称运营者在短时间内通过其他途径重新连接。

这一案例表明，仅靠模型单独的拒绝功能是不够的。即使一家AI阻止了，用户也可以切换多个模型，更换通信路径和账户。安全措施不得不从仅仅判断问题文本，转向包括访问路径、用户所属、持续行为模式的机制。


禽流感、正痘病毒、毒素设计

第二个案例是关于高致病性禽流感的哺乳动物适应性研究。研究人员据称在数周内进行了数千次交流，使用Claude进行文献整理、研究计划、数据分析、文章撰写等。Anthropic评价称，由于检测危险内容的机制，高性能模型的访问被阻止，提供的支持主要限于事务性和辅助性范围。

这是一个重要的保留。报告并未声称Claude立即设计了未知病原体或完成了生物武器。相反，现阶段确认的“能力提升”是有限的。即便如此，拥有实际研究设备或样本访问权限的专家试图绕过地理限制使用先进AI的事实，预示着未来模型性能进一步提高时的风险。

第三个案例中，属于与天花和猴痘同一分类群的正痘病毒的研究资助申请在短时间内由Claude组建。研究目的看似是使病毒弱毒化，因此安全分类器未阻止回答。然而，理解免疫逃避机制的知识既可用于弱毒化，也可用于相反地保存和增强该功能。

剩下的两个案例涉及毒素或毒肽的设计。即便是以止痛药或抗抑郁药等药物开发为目标的研究，也可能从相同的设计基础中产生麻痹性物质。在另一个案例中，据称指示Claude在研究报告中保持目标物质的身份模糊。在这里，仅仅检测危险词汇的机制几乎不起作用，因为治疗目的和有害目的在技术上重叠。


真正的难题是“双重用途”

生物学的双重用途并不是新问题。理解病原体的传染力、免疫逃避和毒性对公共卫生至关重要。同时，这些知识对攻击方也有价值。AI并没有产生这个由来已久的问题，而是通过加速文献探索、假设构建、分析、代码编写、申请书撰写，改变了问题的规模和速度。

传统上，推进尖端研究需要具备专业知识的团队、长期训练和多领域合作。AI若接近于连接这些领域的“万能科学助手”，研究人员即便人数较少也能处理广泛领域。这一方面为新药开发和传染病对策带来巨大益处，另一方面增加了需要监控的工作数量，缩短了危险计划的准备时间。

而且，误判的代价并不对称。如果错过危险研究，可能造成极大损害。而阻断正当研究则可能导致药物开发和传染病对策延迟，仅特定地区的研究人员被排除。偏向安全的一方，科学的自由和公平性受损；优先自由的一方，灾难性风险增加。简单的关键词过滤无法解决这一二律背反。


SNS反映的三种反应

报告公布后不久的SNS上，至少确认了三种反应。然而，由于这是公开后不久的少数帖子，不能像民意调查那样进行普遍化。

第一种是强烈的危机感。如果AI能够加速病原体研究的计划和资助申请，那么不仅仅依赖企业，而是需要包括政府和研究机构在内的共同规则。这不仅是生物武器本身的问题，还有规避地域限制、匿名账户、自动分配到多个模型的组合问题，受到严肃对待的帖子。

 

第二种是对Anthropic解释的怀疑。在Reddit的相关帖子中，有人讽刺报告是强调危机的公关，质疑企业自身调查能在多大程度上验证事实关系。也有观点认为，企业在模型竞争中处于不利地位，可能将安全性作为差异化材料。无论这些批评是否有依据，国名、机构名和可验证的证据未公开，外部无法完全确认的问题仍然存在。

第三种是对安全措施导致监控加强的担忧。Anthropic主张，为提供高级生物学功能，需要选择可信的用户制度、账户和所属机构的确认、一定的使用记录。对此，SNS上有人指出，常态化的身份验证、对不保存数据服务的压力、民间企业审查研究内容的构图、对误判的申诉手段不足的问题。

此外，还有一些帖子断定报告未明确的国家或过去的传染病起源。然而，Anthropic隐去了国名，也未断定恶意。将这些推测作为事实传播，可能导致对研究者的不当攻击或地缘政治偏见。在阅读SNS反应时，必须区分“报告确认的内容”和“用户推测的内容”。


企业的自我规制是否足够

Anthropic的应对具有一定意义。阻断危险使用，将获得的迹象反映到安全措施中，并与政府和其他公司共享。AI企业通过使用日志和与模型的对话，处于能够早期观测到政府机构难以掌握的新威胁的位置。

然而，这一位置同时意味着巨大的权力。信任哪个研究者，向哪个国家或机构开放高级功能，从哪里开始视为危险，将由一家公司决定。在发生误判时的解释责任和救济程序、第三方审核、研究者的保密、向当局通报的标准也需要。

此外，如果仅对一家公司适用规制，危险用户将转向其他模型或公开模型。在此次报告中，也确认了将Claude拒绝的要求转向其他模型的机制。所需的不是依赖特定企业的“良心”，而是跨行业的迹象共享、根据危险度进行的身份和所属确认、独立审核、与国际出口管理和研究伦理的连接。

另一方面，过于广泛的禁止可能适得其反。如果正当研究者被迫转向封闭路径，远离安全的商用服务，监控可能性反而降低。低风险研究应广泛利用，高风险工作则限定于经过审查的研究者，并可对判断提出异议——这样的分阶段访问可能是现实的。


“不是立即的灾难”，而是“能力提升的早期预警”

将这五个案例解读为AI已经能够制造生物武器的证据是不准确的。Anthropic自身表示，这些并不是Claude产生迫在眉睫的生物学威胁的证据。确认的支持中，许多是文书编辑和信息整理等有限的内容。

尽管如此，报告之所以沉重，是因为实际上存在试图使用尖端AI的高级专家，规避地域限制和安全功能的市场和技术已经开始成型。随着模型接近专家水平，相同使用模式带来的影响将更大。

问题不在于“AI是否有恶意”。而是当人类隐藏恶意、科学知识可用于善恶、跨国访问手段、竞争的多家AI企业结合在一起时，谁在何阶段阻止的问题。

AI可能成为推进生命科学的强大工具。为了保护这种可能性，识别危险使用的机制是必要的。然而，如果仅依赖企业的秘密判断，将失去透明性和信任。在全面开放和全面禁止之间，能否建立可验证、可提出异议、国际协作的访问管理。Anthropic的报告所揭示的，不仅是技术的可怕之处，还有社会尚未完全设计出其边界的事实。


出处URL

相关文章