ワクチン研究か、危険な病原体開発か ― AI企業が直面した見えない意図

ワクチン研究か、危険な病原体開発か ― AI企業が直面した見えない意図

「生物兵器を作ろう」とは誰も言わない

生成AIの安全対策というと、多くの人は「危険な質問を拒否するチャットボット」を思い浮かべる。しかし、Anthropicが2026年9月に公表した脅威インテリジェンス報告書が示したのは、もっと厄介な現実だ。

悪意ある利用者が、自分の目的を正直に入力するとは限らない。まして生命科学では、感染症の仕組みを調べる研究、ワクチンや治療薬を開発する研究、病原体をより危険にする研究が、途中まで同じ専門用語、同じ実験計画、同じデータ解析を共有することがある。質問を一つだけ切り取れば、公益に資する研究にも、兵器化へ向かう準備にも見える。

Anthropicは、2025年12月から2026年8月までに確認したAIの不正・不適切利用を154ページの報告書にまとめた。その対象はサイバー攻撃、監視、世論工作、詐欺、通常兵器、生物学的悪用など7分野に及ぶ。なかでも注目を集めたのが、Claudeの利用が生物兵器開発を支援し得ると判断された5件の事例だった。

ここで最初に押さえるべきなのは、同社が「生物兵器計画を発見した」と断定していないことだ。研究機関や国名も伏せられ、関係した科学者に危害を加える意図があったとも主張していない。確認されたのは、危険性の高い研究内容と、地域制限の回避、匿名化、目的のぼかし方など、複数の警戒材料が重なったという事実である。


軍事研究機関とチクングニア熱

最も象徴的なのが、チクングニア熱ウイルスを対象とする研究助成申請の事例だ。チクングニア熱は蚊が媒介する感染症で、発熱や激しい関節痛を引き起こし、症状が長期化することもある。自然界で流行する病気であるため、仮に意図的な拡散が起きても、自然発生との判別が難しくなる可能性がある。

報告書によれば、申請書で扱われていたのは、ウイルスの伝播や免疫回避に関係する性質を変化させる研究だった。こうした知見は、流行の予測やワクチン・治療法の開発に役立つ一方、病原体をより危険にする目的にも転用できる。さらに、研究の実施先として軍事系研究機関が示されていたことが、Anthropicの警戒を強めた。

利用経路も通常ではなかった。サービス対象外の地域から米国のインフラを経由し、データを残さない仕組みや転売業者、偽装アカウントなどが使われていたという。Claudeが拒否した質問を、より制限の緩い他社モデルへ回す仕組みまで用意されていた。同社は関連アカウントを停止し、中継網の遮断を関係者と進めたが、運営者は短期間で別の経路から接続を再開したとされる。

この事例が示すのは、モデル単体の拒否機能だけでは十分でないということだ。一社のAIが止めても、利用者は複数モデルを切り替え、通信経路やアカウントを取り替える。安全対策は、質問文の判定だけでなく、アクセス経路、利用者の所属、継続的な行動パターンまで含めた仕組みへ移らざるを得ない。


鳥インフルエンザ、オルソポックス、毒素設計

第2の事例は、高病原性鳥インフルエンザの哺乳類適応に関する研究だった。研究者は数週間にわたり数千件のやり取りを行い、文献整理、研究計画、データ分析、文章作成などにClaudeを用いたとされる。Anthropicは、危険な内容を検知する仕組みによって高性能モデルへのアクセスが阻まれ、提供された支援は主に事務的・補助的な範囲にとどまったと評価している。

これは重要な留保だ。報告書は、Claudeが直ちに未知の病原体を設計した、あるいは生物兵器を完成させたとは述べていない。むしろ現段階で確認された「能力の上乗せ」は限定的だったという。それでも、実際の研究設備や試料へのアクセスを持つ可能性のある専門家が、地理的制限を回避して先端AIを使おうとしていた事実は、将来のモデルがさらに高性能になった場合のリスクを先取りしている。

第3の事例では、天然痘やエムポックスと同じ分類群に属するオルソポックスウイルスの研究助成申請が、Claudeによって短時間で組み立てられた。研究目的はウイルスを弱毒化する方向に見えたため、安全分類器は回答を止めなかった。しかし、免疫回避の仕組みを理解する知識は、弱毒化にも、反対にその機能を保存・強化する方向にも使える。

残る2件は毒素や毒ペプチドの設計に関するものだった。鎮痛薬や抗うつ薬などの創薬を掲げる研究であっても、同じ設計基盤から麻痺性物質などが生まれる可能性がある。別の事例では、研究報告の中で対象物質の正体を曖昧に保つようClaudeへ指示していたという。ここでは危険な単語を検出するだけの仕組みがほとんど働かなかった。治療目的と有害目的が技術的に重なるためである。


本当の難題は「デュアルユース」

生物学的なデュアルユースは、新しい問題ではない。病原体の感染力、免疫回避、毒性を理解することは、公衆衛生に不可欠である。同時に、その知識は攻撃側にも価値を持つ。AIはこの古くからある問題を生み出したのではなく、文献探索、仮説づくり、解析、コード作成、申請書作成を高速化することで、問題の規模と速度を変えた。

従来、先端研究を進めるには、専門知識を持つチーム、長い訓練、複数分野の協力が必要だった。AIがそれらの間をつなぐ“万能な科学助手”に近づけば、研究者は少人数でも広い領域を扱える。これは新薬開発や感染症対策に大きな恩恵をもたらす一方、監視すべき作業の数を増やし、危険な計画の準備時間を短縮する。

しかも、誤判定の代償は対称ではない。危険な研究を見逃した場合、被害は極めて大きくなり得る。一方で、正当な研究を遮断すれば、創薬や感染症対策が遅れ、特定地域の研究者だけが排除される。安全側に倒すほど科学の自由と公平性が損なわれ、自由を優先するほど破局的リスクが増える。この二律背反に、単純なキーワードフィルターで答えを出すことはできない。


SNSが映した三つの反応

報告書公表直後のSNSでは、少なくとも三つの反応が確認できた。ただし、公開から間もない時点の少数の投稿であり、世論調査のように一般化はできない。

第一は、強い危機感だ。AIが病原体研究の計画や助成申請を加速できるなら、企業任せではなく、政府や研究機関を含む共通ルールが必要だという見方である。生物兵器そのものだけでなく、地域制限の迂回、匿名アカウント、複数モデルへの自動振り分けが組み合わさっている点を深刻に受け止める投稿があった。

 

第二は、Anthropicの説明に対する懐疑である。Redditの関連スレッドでは、報告書を危機を強調する広報ではないかと皮肉る声や、企業自身の調査だけで事実関係をどこまで検証できるのかという疑問が出た。モデル競争で不利になった企業が安全性を差別化材料にしているのではないか、という見方も示された。こうした批判に根拠があるかは別として、国名や機関名、検証可能な証拠が非公開である以上、外部から完全に確かめられないという問題は残る。

第三は、安全対策が監視強化につながることへの懸念だ。Anthropicは、高度な生物学機能を提供するには、信頼できる利用者を選ぶ制度、アカウントや所属機関の確認、一定の利用記録が必要だと主張する。これに対しSNSでは、本人確認の常態化、データを保存しないサービスへの圧力、研究内容を民間企業が審査する構図、誤判定への異議申立て手段が乏しいことを問題視する声があった。

また、一部には報告書が明示していない国や過去の感染症起源を断定する投稿も見られた。しかしAnthropicは国名を伏せ、悪意も断定していない。こうした推測を事実として拡散することは、研究者への不当な攻撃や地政学的な偏見を招く。SNSの反応を読む際には、「報告書が確認したこと」と「利用者が推測したこと」を分けなければならない。


企業の自己規制だけで足りるのか

Anthropicの対応には一定の意義がある。危険な利用を遮断し、得られた兆候を安全対策へ反映し、政府や他社と共有した。AI企業は利用ログやモデルとの対話を通じて、政府機関でさえ把握しにくい新しい脅威を早期に観測できる立場にある。

しかし、その立場は同時に大きな権力を意味する。どの研究者を信頼するのか、どの国・機関に高度機能を開放するのか、どこからを危険とみなすのかを、一企業が決めることになる。誤判定が起きた場合の説明責任や救済手続き、第三者による監査、研究者の機密保持、当局への通報基準も必要になる。

さらに、規制が一社だけに適用されれば、危険な利用者は別のモデルや公開モデルへ移る。今回の報告書でも、Claudeが拒否した要求を他のモデルへ回す仕組みが確認された。必要なのは、特定企業の“良心”への依存ではなく、業界横断の兆候共有、危険度に応じた本人・所属確認、独立監査、国際的な輸出管理や研究倫理との接続である。

一方、過度に広い禁止は逆効果になり得る。正当な研究者が閉じた経路へ追いやられ、安全な商用サービスから離れれば、監視可能性はかえって低下する。低リスクの研究は広く利用でき、高リスクの作業は審査を受けた研究者へ限定し、判断に異議を申し立てられる――そのような段階的アクセスが現実的だろう。


「今すぐの破局」ではなく、「能力向上への早期警報」

今回の5事例を、AIがすでに生物兵器を作れる証拠と読むのは正確ではない。Anthropic自身、これらはClaudeによって差し迫った生物学的脅威が生まれた証拠ではないとしている。確認された支援には、文章編集や情報整理といった限定的なものも多い。

それでも報告書が重いのは、先端AIを使おうとする高度な専門家が現実に存在し、地域制限や安全機能を回避する市場と技術がすでに整い始めていることだ。モデルが専門家レベルへ近づくにつれ、同じ利用パターンがもたらす影響は大きくなる。

問題は、「AIに悪意があるか」ではない。悪意を隠す人間、善悪両方に使える科学知識、国境を越えるアクセス手段、競争する複数のAI企業が結びついたとき、誰がどの段階で止めるのかという制度設計の問題である。

AIは生命科学を進歩させる強力な道具になり得る。その可能性を守るためにも、危険な利用を見抜く仕組みは必要だ。ただし、企業の秘密の判断だけに任せれば、透明性と信頼を失う。全面開放と全面禁止の間に、検証可能で、異議申立てができ、国際的に連携したアクセス管理を築けるか。Anthropicの報告書が突きつけたのは、技術の恐ろしさだけではなく、社会がその境界線をまだ設計し切れていないという事実である。


出典URL

関連記事