El secreto de los patrones fractales que revela los límites de la IA: un nuevo descubrimiento sobre la imprevisibilidad

Usar el mismo material didáctico, enseñar en el mismo orden y con el mismo método. Aun así, no siempre es seguro que la IA resultante se comporte de manera idéntica.

En el aprendizaje humano, esto podría no parecer extraño. Pero, ¿qué pasaría si una pequeña diferencia en el punto de partida en una computadora, donde los pasos de cálculo están definidos, afectara el resultado final?

Un equipo de investigación de la Universidad de Sídney ha proporcionado nuevas pistas para entender este problema. La clave es el "fractal", un patrón que sigue siendo complejo incluso cuando se amplía.

Según un estudio presentado por Phys.org el 5 de noviembre de 2026, la variabilidad en los resultados de aprendizaje de la IA no puede explicarse solo por diferencias en el hardware o números aleatorios externos. Es posible que la propia forma en que las redes neuronales aprenden contenga una estructura matemática que dificulta la previsión de los resultados.

No solo fue un problema de fallos en la computadora

La investigación fue realizada por el profesor Pulin Gong y el estudiante de doctorado Andrew Ly del Departamento de Física de la Universidad de Sídney. Los resultados fueron publicados en la revista académica "Nature Machine Intelligence".

Las redes neuronales aprenden ajustando numerosos valores internos, es decir, parámetros. En el caso de distinguir imágenes, se actualizan gradualmente los valores basándose en la discrepancia entre la predicción y la respuesta correcta, con el objetivo de lograr un mejor juicio.

En este aprendizaje, el orden en que se presentan los datos y pequeñas diferencias en los cálculos afectan el resultado. Por lo tanto, si los resultados no coinciden, es natural verificar primero los números aleatorios o el entorno de cálculo.

La investigación actual se adentró en el problema que va más allá de eso.

Se utiliza un entorno "determinista" donde los datos y los procedimientos de aprendizaje están alineados, y se pueden obtener los mismos resultados de cálculo desde las mismas entradas y estado. Aun así, un pequeño cambio en los parámetros iniciales puede llevar el aprendizaje a un destino diferente.

Aquí es necesario distinguir entre "condiciones completamente idénticas" y "condiciones casi idénticas".

Este estudio no afirma que los resultados cambien sin razón en un estado inicial completamente idéntico y un procedimiento determinista. El problema radica en que, incluso si se minimizan las pequeñas diferencias en el punto de partida, las diferencias en los resultados no se reducen como se espera.

Considerar el aprendizaje de la IA como un "mapa coloreado"

Para entender la investigación, es útil imaginar el aprendizaje de la IA como un mapa.

Supongamos que cada punto en el mapa representa una combinación de parámetros al comenzar el aprendizaje. Desde allí, el aprendizaje avanza y el lugar donde se alcanza un resultado se pinta de azul, y el lugar donde se alcanza otro resultado se pinta de naranja.

El conjunto de puntos de partida que conducen al mismo resultado se llama "cuenca de atracción" en matemáticas.

Si las áreas azul y naranja están claramente separadas, el asunto es relativamente simple. Si el punto de partida se coloca en un lugar azul lo suficientemente alejado del límite, se puede esperar llegar al resultado azul incluso con un pequeño desvío.

Sin embargo, el equipo de investigación se centró en una estructura donde los puntos naranjas se infiltran en el área azul y los puntos azules se infiltran en el área naranja.

En lugares que parecen del mismo color a gran escala, al ampliar aparecen otros colores. Incluso al ampliar más, los puntos que conducen a destinos diferentes están intrincadamente entrelazados.

Esta estructura se conoce como "cuencas enmarañadas". En japonés, se podría describir como cuencas de atracción con agujeros que conducen a otros resultados por todas partes.

Aunque se debería poder estar seguro al examinar detalladamente el punto de partida, hay una mezcla fina más allá de eso. Aquí reside la razón por la cual es difícil predecir los resultados del aprendizaje.

El significado de "no mejora ni siquiera con una precisión 10 mil millones de veces mayor"

El equipo de investigación examinó alrededor de 500,000 aprendizajes, incluidos los utilizados para reconocimiento de imágenes y procesamiento de texto.

Según el artículo introductorio, en una red de reconocimiento de imágenes relativamente grande, no se observó mejora medible en la reproducibilidad incluso al establecer el punto de partida con una precisión 10 mil millones de veces mayor.

Normalmente, se tiende a pensar que si se reduce el error, el resultado también se estabiliza. Porque si se mide la posición con precisión, es más fácil llegar al destino, y si se mide con precisión los ingredientes, es más fácil reproducir el mismo plato.

Sin embargo, si los puntos de partida que conducen a destinos diferentes están entrelazados a una escala muy fina, simplemente reducir la diferencia en los valores iniciales no garantiza que los resultados sean consistentes.

Sin embargo, este "10 mil millones de veces" no significa que la computadora se haya hecho 10 mil millones de veces más potente. Tampoco es un experimento en el que se aumentó 10 mil millones de veces los datos de aprendizaje.

El objeto de estudio es la precisión de la configuración al comenzar el aprendizaje. No se puede concluir inmediatamente que "agregar recursos computacionales a la IA es inútil" a partir de este resultado.

El "aproximadamente 48%" no es la tasa de error de la IA

Hay otro número llamativo.

El artículo introductorio explica que al hacer un cambio muy pequeño equivalente a 1 bit en la configuración inicial de esa red, el aprendizaje avanzó hacia una estructura interna diferente en aproximadamente el 48% de los casos.

Este número es impactante, pero no debe malinterpretarse.

No significa que "la IA se equivoque con una probabilidad de aproximadamente el 48%", ni que "aproximadamente el 48% de las respuestas cambien". Se refiere a la proporción de conjuntos de aprendizaje con cambios mínimos que avanzaron hacia un destino interno diferente.

Que los valores internos sean diferentes y que la respuesta recibida por el usuario sea diferente tampoco son lo mismo. Porque es posible realizar la misma relación de entrada y salida con diferentes combinaciones de parámetros.

Por lo tanto, en la investigación, se examinan no solo las diferencias en la estructura interna, sino también las diferencias en las predicciones después del aprendizaje. En un experimento representativo del preprint público, el porcentaje de entradas donde las predicciones de dos modelos diferían se mantuvo en un promedio de aproximadamente el 2.9%. Este también es un número bajo condiciones experimentales específicas y no es un porcentaje aplicable a todas las IA.

Lo importante no es extraer un número llamativo, sino verificar qué se comparó y qué fue diferente.

¿Es posible conciliar la facilidad de aprendizaje y la reproducibilidad?

La investigación también mostró la dificultad entre el rendimiento y la reproducibilidad.

La configuración que determina cuánto se actualizan los parámetros durante el aprendizaje se llama "tasa de aprendizaje". En términos generales, decide cuánto avanzar en cada corrección.

En el experimento reportado, se observó que en configuraciones donde se puede aprender bien, es más difícil predecir y reproducir los resultados, mientras que al reducir la tasa de aprendizaje, aunque se vuelve más fácil de reproducir, la efectividad del aprendizaje disminuye.

Generalizar que "una IA de alto rendimiento siempre es inestable" es prematuro. Sin embargo, cambiar la configuración solo con el objetivo de reducir la variabilidad de los números puede llevar a perder otras propiedades deseables.

Lo que los desarrolladores necesitan no es simplemente pensar que "bajar la tasa de aprendizaje resolverá el problema". Es establecer qué nivel de rendimiento es necesario y qué se desea reproducir hasta qué punto, de acuerdo con el uso previsto.

En las redes sociales y los comentarios de los lectores, el enfoque está en "¿se resolverá si se hace más preciso?"

En las publicaciones en redes sociales sobre esta investigación que se pudieron confirmar, la publicación oficial de Phys.org en LinkedIn destaca el punto de que la reproducibilidad no mejoró incluso al hacer la configuración inicial 10 mil millones de veces más precisa.

El enfoque de la publicación es que simplemente aumentar la precisión de los números no garantiza que los resultados del aprendizaje sean consistentes, y que es necesario considerar la estructura matemática del aprendizaje aparte de la aleatoriedad externa.

Sin embargo, esto es una introducción de la investigación por parte del propio medio de comunicación y debe distinguirse de las reacciones de los usuarios generales.

Aparte de las redes sociales, en los resultados de búsqueda pública del sitio de intercambio de noticias "Cuppa", se pudo confirmar un comentario de un lector. Ese lector expresó sorpresa por el hecho de que no se observó mejora incluso al aumentar considerablemente la precisión, y planteó dudas sobre si el problema se puede resolver solo con mejoras en la capacidad de cálculo o el hardware.

Este es un ejemplo de cómo la investigación puede ser percibida por los lectores. Por otro lado, la interpretación de que "no se resolverá aumentando la capacidad de cálculo" es más amplia que el alcance directamente confirmado por el experimento. No se puede tratar la precisión de los valores iniciales y el efecto de los recursos computacionales en general como si fueran lo mismo.

A partir de la información pública que se pudo confirmar hasta el 6 de noviembre de 2026, no se pudo determinar la cantidad de publicaciones en redes sociales de usuarios generales ni la distribución de opiniones a favor o en contra. No hay base para expresar que "las redes sociales están inundadas de voces sorprendidas".

Aun así, las publicaciones y comentarios confirmados muestran una pregunta clara: ¿La IA siempre se desarrollará de la misma manera si se calcula de manera más detallada y precisa? La investigación actual invita a reconsiderar esa intuición.

¿Qué es relevante para los sitios de implementación de IA en Japón?

Si se considera la implicación de esta investigación para los sitios de implementación en Japón, lo que se debe destacar es la diferencia entre "funcionó bien una vez" y "funciona de manera estable incluso si se reconstruye".

Por ejemplo, imaginemos una IA que detecta defectos en productos en una fábrica.

Incluso si la tasa de aciertos general de dos modelos es similar, no siempre se omiten los mismos productos. Comparar solo la puntuación promedio puede ocultar diferencias importantes en el sitio.

Este no es un resultado demostrado en fábricas japonesas por la investigación actual, sino un ejemplo de cómo trasladar la conciencia del problema de la investigación a la práctica.

Sobre esa base, se pueden considerar las siguientes perspectivas en el desarrollo y la evaluación.

• Verificar no solo el mejor rendimiento obtenido en un solo aprendizaje, sino también la variabilidad de los resultados de múltiples aprendizajes.
• Examinar no solo la tasa de aciertos, sino también en qué entradas cambia el juicio.
• Verificar si el modelo después del reaprendizaje no hace juicios diferentes en casos importantes.
• Registrar los valores iniciales, configuraciones y entorno de cálculo para poder comparar los resultados.

Incluso si hay dificultades matemáticas sugeridas por la investigación, eso no significa que el valor de los registros y las verificaciones se pierda. Más bien, es importante medir la variabilidad restante después de alinear las condiciones controlables.

Separar el "cada respuesta es diferente" de las IA de chat de esta discusión

En las IA generativas familiares, a veces las respuestas cambian incluso si se hace la misma pregunta. Puede ser tentador vincular esa experiencia con la investigación actual.

Sin embargo, el tema actual es cómo las diferencias en las condiciones iniciales afectan en la "etapa de aprendizaje" de la creación del modelo.

La variabilidad al generar texto desde un modelo ya aprendido es una etapa diferente. Por lo tanto, este artículo no puede explicar todos los cambios de respuesta o errores de hecho de las IA de chat.

Además, leer que "se ha demostrado matemáticamente que la reproducibilidad es imposible para todas las redes neuronales" también es exagerado.

La investigación analiza el mecanismo con un modelo simplificado y examina características consistentes con ese mecanismo en redes más complejas. Es necesario distinguir entre la evidencia obtenida en modelos complejos y una prueba general aplicable a toda la IA.

El valor del descubrimiento actual no es etiquetar a toda la IA como "impredecible". Está en mostrar un camino para investigar matemáticamente y experimentalmente bajo qué condiciones y qué tipo de reproducibilidad se ve comprometida.

Para una IA confiable, se necesita una evaluación "más allá de la tasa de aciertos"

En la evaluación de la IA, es fácil centrarse en una alta tasa de aciertos o en resultados destacados de referencia.

Sin embargo, en un sistema que se utiliza durante mucho tiempo, se cuestiona si puede mantener la calidad necesaria cuando se actualizan los datos y se vuelve a aprender, cuando se ajustan las configuraciones o cuando se reconstruye en un entorno diferente.

La investigación actual sugiere que parte de esa dificultad puede no deberse simplemente a errores de configuración o peculiaridades de la máquina, sino a la estructura del aprendizaje.

Los investigadores también han señalado direcciones para futuras mejoras, como métodos para medir la sensibilidad y el diseño de redes que reduzcan las condiciones que generan inestabilidad. Investigar los límites de la previsión no significa renunciar a las mejoras. Es un punto de partida para determinar qué cambiar.

Un hermoso patrón fractal donde el azul y el naranja se entrelazan. Detrás de esto está la pregunta práctica de cómo conciliar una IA "que acierta bien" con una IA "que se puede verificar repetidamente".

Fuentes y materiales de referencia

1. Phys.org:Introducción a la investigación proporcionada por la Universidad de Sídney. Aproximadamente 500,000 experimentos de aprendizaje, precisión de la configuración inicial, el número del 48%, relación entre la tasa de aprendizaje y la reproducibilidad.
   https://phys.org/news/2026-11-fractal-pattern