AI行业引起波澜！Anthropic CEO谈人工智能的黑暗面

「安全的AI」为目标的公司为何增加了敌人

「AI可能是危险的，因此应该谨慎开发」

仅仅这句话，可能会有不少人表示赞同。然而，如果这句话是由一家开发世界顶级高性能AI并持续快速增长的企业的领导者说出的呢？

有人会将其视为负责任的警告，同时也有人会怀疑其是否想阻止竞争对手的成长。

围绕生成AI「Claude」的开发公司Anthropic及其CEO达里奥·阿莫德伊的对立，正是这种复杂性的体现。

《纽约时报》在2026年11月13日发布的文章中提到，阿莫德伊的警告已从同行的焦虑转变为强烈的反对。其背后不仅是关于AI安全性的意见分歧，还涉及技术竞争、与客户的关系以及庞大市场的主导权。

对于日本的用户来说，这不仅仅是远在他国的企业家之间的争斗，而是涉及到工作中使用AI的价格、选择以及持续使用服务的条件的问题。

支持公开的信函中，Anthropic并未加入

根据《纽约时报》的报道，对立公开化的一个场景是围绕AI模型公开的政策争论。

该报称，Anthropic和OpenAI曾向白宫游说，认为部分AI模型过于危险，应阻止其开发和广泛共享。

另一方面，微软的萨提亚·纳德拉和当时NVIDIA的CEO黄仁勋则准备了一封支持模型公开的信函。许多公司表示赞同，OpenAI也签署了该信函，但阿莫德伊并未参与。

需要注意的是，报道中描绘的政策游说与Anthropic自身所解释的立场是分开的。

该公司在7月27日的官方声明中明确表示，从未提倡禁止开放权重模型。并承认不具备危险能力的公开模型对企业、开发者和研究人员有益。

在此基础上，他们要求对足够高性能的模型进行安全性测试。测试对象不仅限于公开型，还包括非公开型。

因此，如果将这场争论整理为「支持公开的企业对全面禁止的Anthropic」，就会错过实际的争论焦点。

「开放权重」究竟是开放什么

开放权重指的是公开决定已学习AI行为的数值群「权重」的方式。用户可以获取模型，并根据条件在自己的环境中运行或调整。

然而，即使权重被公开，也不一定意味着学习数据或开发过程的全部被公开。仅凭「开放」一词就认为一切都可以自由使用，内部完全可见是过于草率的。

支持公开的企业的信函强调，用户无需依赖单一公司，可以根据自己的用途运用AI。

例如，考虑处理日语内部文件的系统。

如果利用外部AI服务，可以更容易地降低引入和运营的负担。另一方面，如果能在自己的环境中运行模型，则更容易管理数据的位置和更新时机。但同时也需要承担设备和维护的负担。

这并不是说哪种方式总是优越的。用户可以根据用途和预算进行选择，这是公开模型的意义所在。

同样谈论「安全」，但看到的危险不同

有趣的是，支持公开的一方并没有宣称忽视安全性。

企业联盟的信函主张，通过广泛验证公开模型，更容易发现问题，并为致力于防御的人们提供强有力的工具。将能力集中于少数非公开模型本身可能成为弱点。

而Anthropic则关注于公开后的权重回收困难，以及监控使用情况以阻止滥用的困难。

将双方重视的危险并列，可以更容易看到分歧。

重视公开的一方看到的是技术集中于少数企业，无法从外部验证的危险。要求谨慎公开的一方则看到强大能力一旦广泛传播，开发者也难以控制的危险。

也就是说，想要保护的东西并非完全相反。实现安全的方法和优先考虑的危险不同。

安全警告引发商业疑虑的原因

《纽约时报》并未仅以安全性发言来解释对Anthropic的反对。

该报的公开部分提到，该公司在快速增长的同时，停止向部分客户和竞争对手提供服务，并反对其他公司的免费替代服务。

这些行为的详细经过或个别的正当性，仅凭此次确认的摘录无法判断。然而，文章指出的是，「做正确事情的企业」形象与在竞争现场展现的严厉态度之间，周围感到的落差。

这不仅是AI企业的问题。

严格的安全标准可能是为了保护用户所必需的。同时，如果应对需要花费大量费用，资金和人力充裕的企业可能会更有利。

然而，仅此就断定「对安全的担忧都是借口」也不合适。担忧是真实的，与此同时，该企业在商业上获利也是可能的。

同样的视角也需要对支持公开的企业进行审视。如果AI市场扩大，可能会带动半导体和云服务等需求。公开的理念和商业利益可以同时存在。

阅读企业主张时，与其猜测善意或恶意，不如看提议的规则会给谁带来什么负担和利益更有帮助。

在SNS上，呼吁公开价值的声音——但都是业界当事者的发言

这场争论在SNS上也以经营者们亲自表明立场的形式扩展。

以下是关于相关的7月公开信函的X帖子内容，根据报道确认的要旨。并非对11月13日《纽约时报》文章的直接反应，也不代表一般用户的整体意见。

黄仁勋——需要公开型和非公开型的两者

黄仁勋表示，公开模型支持安全性、网络安全、技术普及和自主运营。

值得注意的是，他并未表示非公开模型是不必要的。他的立场是需要最先进的公开模型和非公开模型，避免简单的二选一。

萨姆·阿尔特曼——支持美国在两种方式中获胜

OpenAI的萨姆·阿尔特曼也表示希望美国在公开型和独有的非公开型两者中成功，并表示支持信函。

这一发言显示，模型提供企业的立场并非简单地分为「公开的公司」和「封闭的公司」。企业从自身业务和政策的双重角度评估公开模型。

布莱恩·阿姆斯特朗——根据企业业务调整的价值

Coinbase的布莱恩·阿姆斯特朗支持美国的强大公开模型，并提到将公司处理转移到这样的模型中。

他提到的理由是可以根据业务调整模型。

这也是日本企业容易理解的论点。一般性能评估中得分最高的AI与在公司工作中具有高性价比的AI不一定一致。

然而，这些都是AI市场中有利益关系的当事者的发言。在SNS上显眼的经营者的声音不能直接作为社会的共识。

回到日本用户面前的「谁来决定」的问题

对于在日本使用AI的人来说，这场对立在服务选择和运营场景中具有具体意义。

例如，在深度嵌入某个AI服务后，如果价格或使用条件发生变化会怎样。转移到其他模型需要多少工作量。

反过来，如果在公司内部运用公开模型，谁来负责更新和脆弱性应对。获取模型与安全使用是不同的课题。

这样一来，需要确认的不仅仅是「哪家公司是对的」。

费用、性能、数据的管理方法、应对变更的方式、转移到其他服务的可能性。这些都需要结合考虑。

政策也同样如此。如果要求安全性测试，重要的是测量什么，谁来评估，结果公开到何种程度。如果促进公开，则需要问责滥用或事故的责任如何分担。

「因为安全所以请相信」「因为开放所以安心」这样的解释不足以让用户做出充分判断。

为了不让AI的未来仅由企业的自我评价决定

对Anthropic的反对中，既有关于安全性的严肃意见分歧，也有对快速增长的竞争对手的警惕。然而，不应将外部无法确认的动机简单归结为一种。

重要的不是阿莫德伊是否受欢迎，也不是签署的企业有多少。

能否将安全性主张与独立的验证联系起来。能否将公开的利益不仅与部分企业的利益相关联，还能与用户的选择相关联。以及，当重大问题发生时，谁来承担解释和应对的责任。

围绕AI的墙壁有抑制危险的作用。同时，这些墙壁也可能限制用户的选择和外部的验证。

需要的不仅是提高或拆除墙壁的口号，而是具体的讨论：在哪里、为了什么设立，由谁来验证其合理性。

出处・参考资料

1. 《纽约时报》：关于对Anthropic的行业内反对、围绕公开模型的企业间对立、对商业惯例的批评。
   https://www.nytimes.com/2026/11/13/technology/anthropic-dario-amodei-ai-openai.html

2. Anthropic官方声明：否认全面禁止公开模型，并提议对高性能的公开和非公开模型进行安全性测试，2026年7月27日的见解。
   https://www.anthropic.com/news/position-open-weights-modelsanthropic.com

3. 「开放权重与美国AI领导力」：企业联盟的公开信函，论述公开模型对竞争、用户管理权和安全性的益处。
   https://images.nvidia.com/pdf/Open-Weights-and-American-AI-Leadership.pdfimages.nvidia.com

4. AI Frontier：关于公开信函签署的经过，以及黄仁勋、阿尔特曼、阿姆斯特朗的X帖子。通过本文确认SNS帖子的要旨，未能直接获取帖子原文。
   https://aifrontier.kr/en/articles/open-weights-letter-2026/