揭示AI极限的分形图案秘密：探索不可预测性的新发现

使用相同教材、按照相同顺序、以相同方法进行教学。然而，即便如此，最终生成的AI行为也未必完全相同。

对于人类的学习，这或许并不奇怪。然而，如果在计算步骤已确定的计算机中，起点的微小差异能够左右最终结果，那又会如何呢？

悉尼大学的研究团队为理解这一问题提供了新的线索。关键在于，即使放大也会不断出现复杂图案的“分形”。

根据2026年11月5日Phys.org的报道，AI学习结果的差异无法仅用硬件差异或外部随机数来解释。神经网络的学习方式本身可能隐藏着使结果难以预测的数学结构。

不仅仅是计算机故障的原因

研究由悉尼大学物理学系的Pulin Gong教授和博士生Andrew Ly进行。成果已发表在学术期刊《Nature Machine Intelligence》上。

神经网络通过调整内部的众多数值，即参数，来进行学习。如果是识别图像，则通过预测与正确答案的偏差逐步更新数值，以达到更好的判断状态。

在这种学习中，数据呈现的顺序和计算上的微小差异会影响结果。因此，如果结果不一致，首先检查随机数或计算环境是自然的。

此次研究深入探讨了更深层次的问题。

在数据和学习步骤都一致的情况下，使用同一输入和状态获得相同计算结果的“确定性”环境。即便如此，仅仅改变初始参数一点点，学习也可能走向不同的终点。

在此，需要区分“完全相同的条件”和“几乎相同的条件”。

该研究并未声称在完全相同的初始状态和确定性步骤下，结果会无缘无故地改变。问题在于，即使将起点的微小差异缩小，结果的差异也未必如预期般减少。

用“色彩分明的地图”思考AI的学习

为了理解研究，可以将AI的学习比作一张地图。

假设地图上的每一点都代表学习开始时的参数组合。从那里开始学习，达到某个结果的地点用蓝色标记，达到另一个结果的地点用橙色标记。

数学上称为“吸引域”的是通向相同结果的起点集合。

如果蓝色区域和橙色区域清晰分开，问题相对简单。只要起点远离边界，即使稍有偏差，也可以期待到达蓝色结果。

然而，研究团队关注的是，蓝色区域中嵌入橙色点，橙色区域中也嵌入蓝色点的结构。

即使从大处看是同一颜色的地方，放大后会出现不同的颜色。即使进一步放大，通向不同终点的点也复杂地交错在一起。

这种结构被称为“riddled basins”。用日语来形象地表达，可以说是通向不同结果的洞穴遍布的吸引域。

即使详细检查起点也应该感到安心，但在那之后仍有细微的混合。这就是学习结果难以预测的原因。

“即使精确到100亿倍也无法改善”的意义

研究团队调查了包括用于图像识别和文本处理的网络在内的约50万次学习。

根据介绍文章，在一个相对较大的图像识别网络中，即使将起点设置精确到100亿倍，也未见到可测量的再现性改善。

通常，人们会认为减少误差会使结果更稳定。因为精确测量位置更容易到达目的地，精确量取材料更容易重现相同的料理。

然而，如果通向不同目的地的起点在非常细微的尺度上交错，仅仅缩小初始值的差异并不一定能使结果一致。

不过，这个“100亿倍”并不是指计算机性能提高了100亿倍。也不是指实验中学习数据增加了100亿倍。

研究的对象是学习开始时设置的精确度。从这个结果中不能立即得出“增加AI计算资源毫无意义”的结论。

“约48%”不是AI的错误率

还有一个引人注目的数字。

介绍文章中提到，若对网络的初始设置进行相当于1比特的微小更改，约48%的情况下学习会进展到不同的内部结构。

这个数字很强烈，但不要误解。

这并不是说“AI有约48%的概率出错”，也不是说“约48%的回答会改变”。而是指在微小更改后学习的组中，进展到不同内部终点的比例。

内部数值不同与用户接收到的答案不同并不相同。因为即使参数组合不同，也可能实现相同的输入输出关系。

因此，研究不仅考察了内部结构，还单独研究了学习后的预测差异。在公开的预印本中，代表性实验中两个模型预测不一致的输入比例平均约为2.9%。这也是特定实验条件下的数值，并不适用于所有AI。

重要的是，不是单独提取一个显眼的数字，而是确认比较了什么，什么不同。

学习的易用性和可重复性可以共存吗

研究还展示了性能和可重复性之间的困难。

学习时决定参数更新幅度的设置称为“学习率”。大体上，它决定了一次修正中迈出的步伐。

报告的实验中，虽然在良好学习的设置下结果的预测和再现变得困难，但降低学习率后，即使再现性提高，学习的有效性也会下降。

将其概括为“高性能AI必然不稳定”为时过早。然而，仅以减少数值的差异为目标来改变设置，可能会失去其他理想的特性。

对开发者来说，重要的不是简单地认为“降低学习率就能解决”。而是根据用途确定所需的性能程度和希望再现的内容。

在SNS和读者评论中，“精确化是否能解决问题”成为焦点

在关于这项研究的SNS上，Phys.org的官方LinkedIn帖子提到了即使初始设置精确到100亿倍再现性也未改善的点。

帖子主要强调，仅提高数值的精确度未必能使学习结果一致，除了外部随机性，还需要考虑学习的数学结构。

不过，这属于媒体自身的研究介绍，应与一般用户的反应区分开来。

除了SNS，新闻分享网站“Cuppa”的公开搜索结果中也确认了读者评论。该读者对即使大幅提高精确度也未见改善的点表示惊讶，并质疑仅靠提高计算能力或硬件能否解决问题。

这表明了研究在读者中的接受情况的一个例子。另一方面，“增加计算能力也无法解决”的解读超出了实验直接确认的范围。不能将初始值的精确度与计算资源的总体效果混为一谈。

截至2026年11月6日，从目前确认的公开信息中，尚未掌握大量一般用户的SNS帖子或赞成与否的分布。没有足够的依据来描述为“SNS上惊讶的声音蜂拥而至”。

即便如此，确认的发帖和评论表明了一个明确的问题。AI是否在更细致、更准确的计算下必然会以相同方式成长。此次研究促使人们重新思考这一直觉。

在日本引入AI的现场，涉及到什么

从这项研究中考虑对日本引入现场的启示，值得关注的是“一次成功运行”和“重建后稳定运行”的区别。

例如，想象在工厂中用于检测产品缺陷的AI。

即使两个模型的整体准确率接近，也不一定在遗漏哪个产品上相同。仅比较平均分数可能会使现场的重要差异被忽视。

这并不是此次研究在日本工厂中实证的结果，而是将研究的问题意识转化为实际操作的一个例子。

在此基础上，开发和评估中可以考虑以下视角。

• 不仅确认一次学习获得的最佳成绩，还要确认多次学习结果的差异。
• 不仅调查准确率，还要调查在哪些输入上判断会改变。
• 确认再学习后的模型在重要案例中是否做出不同于以前的判断。
• 记录初始值、设置、计算环境，以便能够比较结果。

即使研究表明存在数学上的困难，记录和验证的价值并不会消失。相反，在控制条件的基础上，测量剩余的变动变得更加重要。

将聊天AI的“每次回答都不同”与此分开考虑

在日常的生成AI中，即使问同样的问题，答案也可能会改变。可能会想将这种经历与此次研究联系起来。

然而，此次的主题是，在模型构建的“学习阶段”初始条件的差异如何影响。

与从已学习的模型生成文本时的差异不同，所处理的阶段不同。因此，仅凭这篇论文无法解释聊天AI的回答变化或事实误认。

此外，解读为“所有神经网络的再现性在数学上被证明是不可能的”也是过度的。

研究通过简化模型解析机制，并在更复杂的网络中检查与该机制一致的特征。需要区分复杂模型获得的证据与对所有AI的普遍证明。

此次发现的价值不在于给整个AI贴上“不可预测”的标签。而在于展示了通过数学和实验调查在哪些条件下、哪种类型的再现性受到损害的路径。

可靠的AI需要“超越准确率”的评价

在AI的评价中，容易关注高准确率或显眼的基准测试结果。

然而，在实际长期使用的系统中，当数据更新进行再学习时、调整设置时、在不同环境中重建时，能否维持所需的质量是一个问题。

此次研究表明，这种困难的一部分可能源于学习的结构，而不仅仅是简单的设置错误或机器的习惯。

研究人员还指出了测量敏感性的方法，以及减少不稳定条件的网络设计等未来改进的方向。研究预测的极限并不是放弃改进，而是成为识别需要改变的出发点。

蓝色与橙色交错的美丽分形图案。其背后是如何兼顾“准确的AI”和“可重复验证的AI”的实际问题。

出处与参考资料

1. Phys.org：悉尼大学提供的研究介绍。约50万次学习实验、初始设置的精确度、约48%的数值、学习率与再现性的关系。
   https://phys.org/news/2026-11-fractal-patterns-reveal-hidden-limits.html

2. Nature Machine Intelligence：发表论文的DOI。
   Andrew Ly、Pulin Gong「Fractal basin geometry and the limits to predictability and reproducibility in deep learning」。由于无法获取出版社页面的正文，额外的技术确认使用以下公开预印本。
   https://doi.org/10.1038/s42256-026-01336-3

3. arXiv：同题公开预印本，第二版。
   确认了内部参数差异与预测差异的区分、代表性实验中约2.9%的预测不一致、简化模型与深度网络的验证定位。与最终发表版可能存在差异。arxiv.org
   https://arxiv.org/html/2510.05606v2

4. Phys.org官方LinkedIn：SNS上的研究介绍。
   确认了介绍数值精确度提高也未改善再现性的帖子。作为媒体自身的发声而非一般用户的感想进行刊载。LinkedIn
   https://im.linkedin.com/company/phys-org

5. Cuppa：文章分享页面的读者评论。
   对公开搜索结果中显示的评论进行总结。页面主体未能获取，仅作为一条读者反应处理，未普遍化为舆论或SNS整体