AIの限界を暴くフラクタルパターンの秘密：予測不可能性に迫る新発見

同じ教材を使い、同じ順番で、同じ方法で教える。それでも、出来上がったAIがまったく同じ振る舞いをするとは限らない。

人間の学習なら不思議ではないかもしれない。しかし、計算の手順が決まっているコンピューターで、出発点のほんのわずかな違いが最終結果を左右するとしたら、どうだろう。

シドニー大学の研究チームが、この問題を理解するための新しい手がかりを示した。鍵となるのは、拡大しても複雑な模様が現れ続ける「フラクタル」だ。

2026年11月5日付のPhys.orgが紹介した研究によると、AIの学習結果がばらつく理由は、ハードウェアの違いや外部から入り込む乱数だけでは説明しきれない。ニューラルネットワークの学び方そのものに、結果の予測を難しくする数学的な構造が潜んでいる可能性がある。

コンピューターの不具合だけが原因ではなかった

研究を行ったのは、シドニー大学物理学部のPulin Gong教授と博士課程のAndrew Ly氏。成果は学術誌「Nature Machine Intelligence」に掲載された。

ニューラルネットワークは、内部にある多数の数値、つまりパラメーターを調整しながら学習する。画像を見分ける場合なら、予測と正解のずれを手がかりに数値を少しずつ更新し、よりよい判断ができる状態を目指す。

この学習では、データを提示する順序や計算上の小さな差が結果に影響する。そのため、結果が一致しなければ、まず乱数や計算環境を確認するのが自然だ。

今回の研究が踏み込んだのは、その先にある問題だった。

データも学習手順もそろえ、同じ入力と状態から同じ計算結果が得られる「決定論的」な環境を使う。それでも、最初のパラメーターをほんの少し変えるだけで、学習が別の到達先へ進むことがあるという。

ここで、「完全に同じ条件」と「ほぼ同じ条件」は区別する必要がある。

この研究は、完全に同じ初期状態と決定論的な手順でも、理由なく結果が変わると主張しているわけではない。問題は、出発点に残った微小な差を小さくしても、結果の違いが思うように減らないことにある。

AIの学習を「色分けされた地図」で考える

研究を理解するには、AIの学習を一枚の地図に置き換えるとわかりやすい。

地図上の一点一点が、学習を始めるときのパラメーターの組み合わせを表しているとする。そこから学習を進めて、ある結果にたどり着いた場所を青、別の結果にたどり着いた場所をオレンジで塗る。

同じ結果につながる出発点の集まりは、数学では「吸引域」と呼ばれる。

青い領域とオレンジの領域がきれいに分かれていれば、話は比較的簡単だ。境界から十分離れた青い場所に出発点を置けば、小さくずれても青い結果にたどり着くと期待できる。

ところが、研究チームが着目したのは、青い領域の中にオレンジの点が入り込み、オレンジの領域の中にも青い点が入り込む構造だった。

大きく見れば同じ色に見える場所でも、拡大すると別の色が現れる。さらに拡大しても、異なる到達先につながる点が複雑に入り交じっている。

こうした構造が「riddled basins」と呼ばれるものだ。日本語でイメージを伝えるなら、別の結果へ向かう穴が至るところに入り込んだ吸引域、といえる。

出発点を詳しく調べれば安心できるはずなのに、その先にも細かな混ざり合いがある。ここに、学習結果を予測しにくくする理由がある。

「100億倍精密にしても改善しない」の意味

研究チームは、画像認識やテキスト処理などに使うネットワークを含め、約50万件の学習を調べた。

紹介記事によると、ある比較的大きな画像認識ネットワークでは、出発点の設定を100億倍精密にしても、再現性に測定可能な改善が見られなかった。

通常は、誤差を小さくすれば結果も安定すると考えたくなる。位置を正確に測れば目的地へ行きやすくなり、材料を正確に量れば同じ料理を再現しやすくなるからだ。

しかし、行き先の違う出発点が非常に細かなスケールまで入り交じっていれば、初期値の差を小さくするだけでは、結果がそろうとは限らない。

ただし、この「100億倍」は、計算機を100億倍高性能にしたという意味ではない。また、学習データを100億倍増やした実験でもない。

対象となっているのは、学習を始める設定の精密さだ。この結果から直ちに「AIに計算資源を追加しても無意味」と結論づけることはできない。

「約48％」はAIの誤答率ではない

もう一つ、目を引く数字がある。

紹介記事では、そのネットワークの初期設定に1ビット相当のごく小さな変更を加えると、約48％のケースで異なる内部構成へ学習が進んだと説明されている。

この数字は強烈だが、読み違えてはいけない。

「AIが約48％の確率で間違える」という意味ではなく、「回答の約48％が変わる」という意味でもない。微小な変更を加えた学習の組が、異なる内部の到達先へ進んだ割合を指している。

内部の数値が違うことと、利用者が受け取る答えが違うことも、同一ではない。違うパラメーターの組み合わせでも、同じ入出力の関係を実現できる場合があるためだ。

そのため研究では、内部構成だけでなく、学習後の予測の違いも別に検討している。公開プレプリントの代表的な実験では、二つのモデルの予測が食い違う入力の割合が平均約2.9％で横ばいとなった。これも特定の実験条件の数値であり、あらゆるAIに当てはまる割合ではない。

重要なのは、目立つ数字を一つ取り出すことではなく、何を比べ、何が違ったのかを確認することである。

学びやすさと再現しやすさは、両立するのか

研究では、性能と再現性の間にある難しさも示された。

学習時にパラメーターをどれくらい大きく更新するかを決める設定を「学習率」という。大まかには、一回の修正でどれだけ踏み出すかを決めるものだ。

報告された実験では、よく学習できる設定で結果の予測や再現が難しくなる一方、学習率を下げると再現しやすくなっても、学習の有効性が低下する関係が見られた。

これを「高性能なAIは必ず不安定」と一般化するのは早い。しかし、数値のばらつきを減らすことだけを目標に設定を変えると、別の望ましい性質を失う可能性がある。

開発者にとって必要なのは、単純に「学習率を下げれば解決」と考えることではない。どの程度の性能が必要で、何をどこまで再現したいのかを、用途に合わせて定めることだろう。

SNSと読者コメントでは「精密にすれば解決するのか」が焦点に

この研究について確認できたSNS上の発信では、Phys.orgの公式LinkedIn投稿が、初期設定を100億倍精密にしても再現性が改善しなかった点を取り上げている。

投稿の主眼は、数値の精密さを高めるだけでは学習結果がそろうとは限らず、外部のランダムさとは別に、学習の数学的構造を考える必要があるという点だ。

ただし、これは報道機関自身による研究紹介であり、一般利用者の反応とは区別しておきたい。

SNSとは別に、ニュース共有サイト「Cuppa」の公開検索結果には、読者コメントも確認できた。その読者は、精密さを大幅に高めても改善が見られなかった点に驚きを示し、計算能力やハードウェアの向上だけで問題が解決するのか疑問を投げかけていた。

これは、研究が読者にどう受け止められるかを示す一例だ。一方で、「計算能力を増やしても解決しない」という解釈は、実験で直接確認された範囲より広い。初期値の精密さと、計算資源全般の効果を一緒に扱うことはできない。

2026年11月6日時点で今回確認できた公開情報からは、一般利用者による多数のSNS投稿や、賛否の分布までは把握できなかった。「SNSで驚きの声が殺到」と表現するだけの根拠はない。

それでも、確認できた発信とコメントは、一つのわかりやすい問いを示している。AIは、より細かく、より正確に計算すれば、必ず同じように育つのか。今回の研究は、その直感に再考を促している。

日本でAIを導入する現場には、何が関係するのか

この研究から日本の導入現場への示唆を考えるなら、注目したいのは「一度うまく動いた」ことと「作り直しても安定して動く」ことの違いだ。

例えば、工場で製品の傷を見つけるAIを想像してみよう。

二つのモデルの全体的な正解率が近くても、どの製品を見逃すかまで同じとは限らない。平均点だけを比較すると、現場で重要な違いが見えなくなる可能性がある。

これは今回の研究が日本の工場で実証した結果ではなく、研究の問題意識を実務に置き換えた例である。

そのうえで、開発や評価では次のような視点が考えられる。

• 一度の学習で得られた最高成績だけでなく、複数回の学習結果のばらつきも確認する。
• 正解率だけでなく、どの入力で判断が変わるかを調べる。
• 再学習後のモデルが、重要な事例で以前と異なる判断をしないか確認する。
• 初期値や設定、計算環境を記録し、結果を比較できるようにする。

研究が示唆する数学的な難しさがあっても、記録や検証の価値がなくなるわけではない。むしろ、制御できる条件をそろえたうえで、残る変動を測ることが重要になる。

チャットAIの「毎回答えが違う」とは分けて考える

身近な生成AIでは、同じ質問をしても答えが変わることがある。その経験と今回の研究を結びつけたくなるかもしれない。

しかし、今回の主題は、モデルを作る「学習段階」で初期条件の差がどう影響するかだ。

学習済みのモデルから文章を生成する際のばらつきとは、扱っている段階が違う。そのため、この論文だけで、チャットAIの返答の変化や事実誤認をすべて説明できるわけではない。

また、「すべてのニューラルネットワークについて、再現性が数学的に不可能だと証明された」と読むのも行き過ぎだ。

研究は、単純化したモデルで仕組みを解析し、より複雑なネットワークでも、その仕組みと整合する特徴を調べている。複雑なモデルで得られた証拠と、あらゆるAIに対する一般的な証明は区別する必要がある。

今回の発見の価値は、AI全体に「予測不能」という札を貼ることではない。どの条件で、どの種類の再現性が損なわれるのかを、数学と実験で調べる道筋を示したことにある。

信頼できるAIには「正解率の先」の評価が必要になる

AIの評価では、高い正解率や目立つベンチマーク結果に目が向きやすい。

しかし、実際に長く使うシステムでは、データを更新して再学習したとき、設定を調整したとき、別の環境で作り直したときにも、必要な品質を維持できるかが問われる。

今回の研究は、その難しさの一部が、単なる設定ミスや機械の癖ではなく、学習の構造に由来する可能性を示している。

研究者らは、感度を測る手法や、不安定さを生む条件を減らすネットワーク設計など、今後の改善につながる方向も示している。予測の限界を調べることは、改善を諦めることではない。何を変えるべきかを見極めるための出発点になる。

青とオレンジが入り交じる美しいフラクタル模様。その背後にあるのは、「よく当たるAI」と「繰り返し確かめられるAI」をどう両立させるかという、実用上の問いなのだ。

出典・参考資料

1. Phys.org：シドニー大学提供の研究紹介。約50万件の学習実験、初期設定の精密さ、約48％という数値、学習率と再現性の関係について。
   https://phys.org/news/2026-11-fractal-patterns-reveal-hidden-limits.html

2. Nature Machine Intelligence：掲載論文のDOI。
   Andrew Ly、Pulin Gong「Fractal basin geometry and the limits to predictability and reproducibility in deep learning」。出版社ページの本文は取得できなかったため、追加の技術的確認には下記の公開プレプリントを使用。
   https://doi.org/10.1038/s42256-026-01336-3

3. arXiv：同題の公開プレプリント、第2版。
   内部パラメーターの違いと予測の違いの区別、代表的実験での約2.9％の予測不一致、単純化したモデルと深層ネットワークでの検証の位置づけを確認。掲載最終版とは差異がある可能性がある。arxiv.org
   https://arxiv.org/html/2510.05606v2

4. Phys.org公式LinkedIn：SNS上での研究紹介。
   数値の精密さを高めても再現性が改善しなかった点を紹介した投稿を確認。一般利用者の感想ではなく、媒体自身による発信として掲載。LinkedIn
   https://im.linkedin.com/company/phys-org

5. Cuppa：記事共有ページの読者コメント。
   公開検索結果に表示されたコメントを要約。ページ本体は取得できておらず、一件の読者反応として扱い、世論やSNS全体の傾向には一般化していない。Cuppa
   https://www.dailycuppa.com.au/article/fractal-patterns-reveal-hidden-limits-to-ai-predictability-1433159