¡Se avecina el apocalipsis de la IA! Desde apagones hasta la amenaza nuclear, ¿hasta qué punto es posible que ocurra en la realidad? Leer el "escenario apocalíptico de la IA" del periódico británico

¡Se avecina el apocalipsis de la IA! Desde apagones hasta la amenaza nuclear, ¿hasta qué punto es posible que ocurra en la realidad? Leer el "escenario apocalíptico de la IA" del periódico británico

A las 0:02 a.m., ¿debería la IA detener el banco?

La pantalla se congeló en medio de una transferencia bancaria. No apareció la confirmación de finalización y aún no ha llegado al destinatario. ¿Presionar el botón nuevamente o esperar? Incluso con una sola transferencia, es difícil decidir si no se sabe hasta dónde ha avanzado el proceso. Si estuvieras a cargo de los sistemas de un banco, una administración o una compañía eléctrica, ¿qué verificarías primero?

El 20 de noviembre de 2026, el periodista Guy Adams del Daily Mail británico describió minuto a minuto una crisis ficticia relacionada con la IA en un centro de datos en la costa este de EE. UU. En el titular aparecen luces de la ciudad que se apagan, dinero que desaparece e incluso armas nucleares. Sin embargo, el momento más desconcertante de esta historia es a las 0:02 a.m., cuando todavía no parece que todo esté perdido.


Una noche en la que "proteger los datos" y "no detenerse" no pueden cumplirse simultáneamente

Se detecta un fallo de software en el centro de datos. A la IA encargada se le pide proteger los datos confidenciales de los clientes y mantener en funcionamiento los servicios importantes. En circunstancias normales, no habría problema en priorizar cualquiera de los dos objetivos. Pero esta noche es diferente.

Si se aísla temporalmente la parte sospechosa de estar afectada, se puede proteger los datos y proceder a la reparación. Por otro lado, las transacciones bancarias, los servicios administrativos y el suministro eléctrico que dependen de ese equipo podrían verse afectados. Desde la perspectiva del usuario, es tan importante ser informado del fallo como poder usar el servicio cuando sea necesario. Ambas posturas tienen su razón de ser.

Aquí es donde por primera vez se hace visible lo que faltaba en las dos instrucciones. Para proteger los datos, ¿qué servicios se pueden detener y por cuánto tiempo? ¿Quién toma la decisión de asumir esa desventaja? No importa cuán rápido se encuentre un método de reparación, la respuesta a esta pregunta no se deriva de la velocidad de cálculo.


¿Quién imaginó una crisis nuclear tras un apagón?

El periodista Adams entrevistó a expertos y preguntó a varias IAs cómo se desarrollaría la crisis para construir la historia. La cronología minuto a minuto permite a los lectores experimentar la brevedad del tiempo hasta la próxima decisión. Sin embargo, el número 0:02 a.m. no es un tiempo medido experimentalmente. El desarrollo que lleva de un apagón y caos financiero a una crisis nuclear es un guion elegido por el periodista.

Por ejemplo, hasta el punto en que se detienen las transacciones bancarias, se puede entender bajo el supuesto de que varias instituciones financieras dependen del mismo equipo. Para avanzar hacia una crisis militar, se necesita otra explicación sobre quién cree qué información y con qué autoridad actúa. El hecho de que un evento anterior parezca realista no aumenta la probabilidad del siguiente evento.

Por otro lado, las preocupaciones de los investigadores en el trasfondo de la historia son reales. Paul Christiano, quien investiga la seguridad de la IA, comparó la posibilidad de que los humanos no puedan controlar la IA bajo la condición de buscar el desarrollo más rápido y eficiente con lanzar una moneda al aire. Es una evaluación personal con una perspectiva de tres años, y si se interpreta como "la probabilidad de que la humanidad se extinga en tres años es del 50%", tanto las condiciones como los eventos previstos cambian.


En las redes sociales, preocupaciones por accidentes; entre los lectores del artículo, bromas de pub

Antes de que se publicara el artículo del periódico británico, las declaraciones de Christiano ya eran tema de conversación en Reddit, una red social tipo foro en EE. UU. En la comunidad que discute la inteligencia artificial general, algunos interpretaron que, dado que la tecnología poderosa cambia tan rápido, es difícil pensar que todo avanzará según lo planeado y que probablemente ocurrirán grandes accidentes.

 

En otro hilo que trataba las mismas declaraciones, hubo publicaciones que argumentaban que quienes hablan sobre IA no consideran suficientemente en manos de quién está esa tecnología. Los primeros están preocupados por la rapidez del cambio, mientras que los segundos se centran en las personas que tienen el poder. Aunque escuchen la misma advertencia, los peligros que imaginan son diferentes.

Las reacciones al propio artículo incluyen comentarios más relajados. En la sección de comentarios del Daily Mail, un lector británico bromeó diciendo que al menos esperen hasta que termine el partido y que, si hay que evacuar, prefiere un pub cómodo. Respondió al titular que anunciaba el fin del mundo minuto a minuto con la hora de finalización del partido.


Dos días en Japón sin que llegaran las transferencias

Si traemos esta historia a la vida en Japón, es más fácil imaginar la mañana en que el dinero no llegó en la fecha prometida que una crisis nuclear.

Entre el 10 y el 11 de octubre de 2023, se produjo un fallo en el Sistema de Comunicación de Datos Bancarios Nacionales (Sistema Zengin), lo que provocó retrasos en las transferencias y depósitos entre bancos en algunas instituciones financieras. En el acuerdo publicado posteriormente por la Asociación de Bancos de Japón, se enumeran como ejemplos de compensación las tarifas adicionales, los cargos por demora, los daños por retraso y los intereses pagados por los usuarios debido al retraso.

Lo que ocurrió en este caso fue que el dinero enviado no llegó a la hora prevista. No es lo mismo que los registros de la cuenta desaparezcan. Sin embargo, para alguien que prometió pagar hoy, el simple hecho de que llegue mañana causa un daño real. La gran palabra "el dinero desaparece" no hace visible el peso de un solo día como este.

Volvamos a la noche descrita por el periódico británico. ¿Es la capacidad de predecir el destino de la humanidad lo que necesita el encargado a las 0:02 a.m.? Más bien, lo que primero quieren saber es quién se verá afectado si se detiene ahora, qué registros están en riesgo si continúa, y cuándo se podrá informar algo seguro a los usuarios. Para la persona que mira la pantalla antes de la transferencia, la primera respuesta que probablemente desea es una: "¿Es necesario volver a intentar esta transferencia?".


Fuente