AI黙示録が迫る! 停電から核の危機へ、どこまで現実に起こり得る? 英紙の「AI終末シナリオ」を読む

AI黙示録が迫る! 停電から核の危機へ、どこまで現実に起こり得る? 英紙の「AI終末シナリオ」を読む

午前0時2分、AIは銀行を止めるべきか?

銀行振込の途中で画面が固まった。完了の表示は出ず、相手にもまだ届いていない。もう一度ボタンを押すか、待つか。たった一件の送金でも、どこまで処理が進んだか分からないと判断に困る。これが銀行や行政、電力会社のシステムを預かる側だったら、何を先に確かめるだろう。

2026年11月20日、英紙デイリー・メールのガイ・アダムズ記者は、米東海岸のデータセンターを舞台に、AIをめぐる架空の危機を分刻みで描いた。見出しには、消える街の明かりやお金、さらには核兵器まで登場する。だが、この物語でいちばん答えに詰まるのは、まだ何もかもが手遅れには見えない、午前0時2分の場面だ。


「データを守れ」と「止めるな」が同時に守れない夜

データセンターでソフトウェアの不具合が見つかる。対応を任されたAIには、顧客の機密データを守ることと、重要なサービスを動かし続けることの二つが求められている。普段なら、どちらを目標にしても困らない。この夜だけは事情が違う。

影響が疑われる部分をいったん切り離せば、データを保護したうえで修復に当たれる。一方、その設備に頼っている銀行の取引や行政サービス、電力供給には支障が出かねない。利用者からすれば、不具合を知らせてほしいのと同じくらい、必要なときに使えてほしい。どちらの言い分にも理由がある。

ここで初めて、二つの指示から抜け落ちていたものが見えてくる。データを守るためなら、どのサービスを、どれだけの時間止めてよいのか。その不利益を引き受ける判断は誰がするのか。修復方法をいくら速く見つけても、この問いへの答えは計算速度からは出てこない。


停電の先に核の危機を描いたのは誰か

アダムズ記者は、専門家を取材し、複数のAIにも危機がどう進むかを尋ねて物語を組み立てた。分刻みの時刻には、次の判断までの短さを読者に体験させる効果がある。ただし、午前0時2分という数字は実験で測った時間ではない。停電や金融の混乱を経て核の危機に至る展開も、記者が選んだ筋書きだ。

たとえば、銀行の取引が止まるところまでは、複数の金融機関が同じ設備に依存しているという設定で理解できる。そこから軍事的な危機に進むには、誰がどの情報を信じ、どんな権限で行動するのかという、もう一段別の説明が要る。一つ前の出来事に現実味があるからといって、次の出来事の確率まで高くなるわけではない。

一方、物語の背景にある研究者の懸念は現実のものだ。AI安全性を研究するポール・クリスティアーノ氏は、最短・最速の開発を追求するという条件を置いたうえで、人間がAIを制御できなくなる可能性をコイン投げにたとえた。今後3年を見通した個人の評価であり、「3年以内に人類が滅びる確率は50%」と読み替えると、条件も、予測している出来事も変わってしまう。


SNSでは事故を心配する声、記事の読者からはパブの冗談も

英紙の記事が出る前から、クリスティアーノ氏の発言は米掲示板型SNSのRedditで話題になっていた。汎用人工知能を議論するコミュニティーでは、強力な技術がこれほど速く変わる以上、すべてが計画どおりに進むとは考えにくく、大事故も起きるだろう、と受け止めた人がいた。

 

同じ発言を扱った別のスレッドには、AIについて話す人は、その技術が誰の手にあるかを十分に考えていない、という趣旨の投稿もあった。前者が心配しているのは変化の速さで、後者が見ているのは権限を握る人間だ。同じ警告を聞いても、思い浮かべる危険は違う。

記事そのものに寄せられた反応には、もっと肩の力が抜けたものもある。デイリー・メールのコメント欄では、英国のある読者が、せめて試合が終わるまでは待ってほしい、避難するなら居心地のいいパブがいい、と冗談を飛ばした。世界の終わりを分刻みで告げる見出しに、試合終了の時刻で応じたわけだ。


日本で振り込みが届かなかった二日間

この話を日本の暮らしに引き寄せるなら、核の危機より、約束した日にお金が届かなかった朝のほうが想像しやすい。

2023年10月10日から11日にかけて、全国銀行データ通信システム(全銀システム)で障害が発生し、一部の金融機関で他行への振り込みや入金が遅れた。全国銀行協会がその後に公表した申し合わせには、遅延によって利用者が余分に支払った手数料や延滞金、遅延損害金、利息が補償の対象例として並ぶ。

この事例で起きたのは、送ったお金が予定の時刻に届かないことだった。口座の記録が消えることとは違う。それでも、今日中に支払う約束をした人には、明日届くというだけで実害が生じる。「お金が消える」という大きな言葉では見えにくいのは、こうした一日分の重みだ。

英紙が描いた夜に戻ろう。午前0時2分の担当者に必要なのは、人類の結末を言い当てる能力だろうか。それより先に知りたいのは、いま止めれば誰が困るのか、続ければどの記録が危ういのか、そして利用者にいつ確かなことを伝えられるのかだ。振り込みを前に画面を見つめる人にとって、最初に欲しい答えはきっと一つだ。「この送金は、もう一度やり直す必要がありますか」。


出典