Les deux crises au-delà de l'IA pratique - Dérive et concentration du pouvoir, des enjeux soulevés à l'ONU

Les entreprises créant de l'IA demandent une "gestion" mondiale

Utilisée parce qu'elle est pratique. Adoptée parce qu'elle accélère le travail. L'IA, qui fait partie de notre quotidien, a été abordée comme un risque pour l'humanité dans les discussions sur la paix et la sécurité internationales.

Le 23 septembre 2026, Sam Altman, PDG d'OpenAI, et Dario Amodei, PDG d'Anthropic, ont pris la parole au Conseil de sécurité des Nations Unies pour discuter de l'IA. Le 24 septembre, AD HOC NEWS en Allemagne a rapporté que les deux dirigeants ont plaidé pour des règles internationales.

Il est notable que ce ne sont pas seulement les opposants à l'IA qui ont lancé un avertissement, mais aussi les dirigeants des entreprises qui la développent.

Cependant, cela ne signifie pas que "toute l'IA a déjà échappé au contrôle humain". Il s'agit d'un débat sur la manière de prévenir la perte de contrôle à mesure que les capacités s'améliorent à l'avenir. Il est important de distinguer les avertissements des événements réels.

Le danger ne réside pas seulement dans une "dérive de l'IA"

Les préoccupations d'Altman, présentées dans l'article original, se divisent en deux grandes catégories.

La première est que le fonctionnement et le développement de l'IA deviennent trop rapides pour que les humains puissent les comprendre ou intervenir. La seconde est que le pouvoir excessif se concentre entre les mains de quelques entreprises ou nations possédant une IA puissante.

Bien que ces deux préoccupations semblent similaires, elles diffèrent dans leur nature.

La première concerne la capacité des humains à arrêter l'IA. La seconde concerne la capacité de la société à superviser les humains qui dirigent l'IA. Même si l'IA fonctionne techniquement comme prévu, si seules quelques personnes peuvent donner des instructions, cela ne garantit pas un système souhaitable pour la société dans son ensemble.

Ainsi, la sécurité de l'IA ne se limite pas à réduire les réponses dangereuses. Il est également nécessaire de concevoir qui a le droit d'utiliser l'IA, qui décide des politiques d'exploitation et où les personnes lésées peuvent faire appel.

L'importance de la promesse de "retarder la publication"

Selon l'article original, Amodei a exprimé sa volonté de retarder l'introduction de futurs modèles si nécessaire pour des raisons de sécurité. Il a également demandé une interdiction internationale des armes biologiques utilisant l'IA, des mécanismes de test et de vérification, ainsi qu'un système mondial de rapport d'accidents.

Il est important de ne pas confondre l'attitude de "retarder si nécessaire" avec le fait qu'un report spécifique d'un produit ait été décidé. Les déclarations présentées ne signifient pas que les dates de publication individuelles ont été modifiées.

De plus, accorder la priorité à la vérification de la sécurité ne signifie pas que le danger peut être complètement éliminé. Ce qui doit être questionné, c'est ce qui est examiné, quels résultats justifient un report de la publication, et qui vérifie ces décisions.

Dans un essai publié séparément, Amodei a également proposé que des évaluateurs tiers aient un accès continu aux sites de développement pour vérifier les mesures de sécurité et les accidents. Il est important de distinguer l'ajustement du rythme de développement de l'arrêt complet du progrès technologique.

Dans un marché où sortir de nouveaux produits rapidement est avantageux, il est difficile pour une seule entreprise d'être prudente. C'est pourquoi, au-delà de la bonne volonté des entreprises, des conditions d'évaluation communes à tous les concurrents sont nécessaires.

Le débat sur "l'auto-amélioration" n'est pas pour prédire l'avenir

L'article original présente également des préoccupations concernant "l'amélioration récursive de soi", où l'IA participe à l'amélioration de la prochaine IA, accélérant ainsi les progrès futurs.

Le problème réside dans la différence de vitesse entre l'augmentation des capacités et la vérification de la sécurité. Même si l'amélioration des performances peut être confirmée, il n'est pas garanti que les faiblesses opérationnelles ou les comportements inattendus soient compris à la même vitesse.

Cependant, ces préoccupations ne doivent pas être transformées en prédictions affirmant qu'une catastrophe surviendra inévitablement dans quelques années. Les perspectives à court terme présentées dans l'article original sont des prévisions des intervenants, et non un calendrier établi.

Les lecteurs devraient se concentrer sur les bases de ces prévisions et sur les mesures de sécurité qui seraient utiles même si les prévisions s'avéraient incorrectes, plutôt que sur des délais stimulants.

Sur les réseaux sociaux, des questions sur les "entreprises qui avertissent" plus que sur l'avertissement lui-même

Les réactions observées sur les réseaux sociaux ne sont pas unanimes. Ici, nous présentons les commentaires sur les publications concernant la réunion et les réactions aux débats sur la sécurité de l'IA. Toutes ces réactions proviennent de publications publiques limitées et ne représentent pas une tendance générale de l'opinion publique.

Un commentaire sur une publication LinkedIn de CNBC annonçant la réunion du Conseil de sécurité a suggéré que certaines personnes manquaient encore à la table des discussions. Cela reflète une préoccupation non seulement sur qui parle de sécurité, mais aussi sur qui est inclus dans ces discussions.

D'autre part, dans une communauté d'investissement sur Reddit, des publications ont exprimé des doutes sur le fait que l'explication d'OpenAI concernant le calendrier de son introduction en bourse pour des raisons de sécurité soit prise à sa valeur nominale, suggérant qu'il pourrait y avoir des raisons commerciales derrière.

Dans le même fil, certains ont contesté l'idée que le progrès technologique a atteint un plateau, affirmant au contraire qu'il s'accélère. Ce n'est pas une réaction directe au discours de l'ONU, mais plutôt une réponse aux débats de fond sur la sécurité. Les évaluations de la gestion et de la technologie dans ces publications doivent être distinguées des faits vérifiés.

Ce que ces publications soulignent, c'est que l'explication des dangers ne suffit pas à établir la confiance. Les entreprises possèdent une expertise, mais elles ont aussi des intérêts concurrentiels. Un mécanisme permettant de vérifier leurs revendications de l'extérieur est nécessaire en tenant compte de ces deux aspects.

Des réglementations strictes suffisent-elles à garantir la sécurité ?

Une vérification stricte de la sécurité entraîne des coûts pour les tests et les audits. Selon leur conception, seules les entreprises disposant de ressources financières suffisantes pourraient s'y conformer, désavantageant ainsi les nouveaux entrants.

Cela ne signifie pas que la réglementation est inutile. Il est nécessaire de s'assurer que les mécanismes de protection de la sécurité ne protègent pas uniquement la position des grandes entreprises existantes.

Dans le discours publié par Altman, il est également mentionné que les normes ne doivent pas figer les entreprises existantes ni favoriser un modèle commercial particulier.

L'indépendance des évaluations tierces, la transparence des critères et la charge proportionnelle au niveau de risque sont trois éléments à concilier pour garantir la fiabilité du système. Ce qui est important, ce n'est pas seulement que les entreprises déclarent que "c'est sûr", mais qui a pu vérifier jusqu'à quel point.

Le "pouvoir d'arrêter" concerne aussi les utilisateurs japonais

Ce débat ne concerne pas seulement les grands laboratoires de recherche ou l'ONU. Les entreprises japonaises qui confient des tâches à l'IA peuvent également appliquer ces questions à une plus petite échelle.

Par exemple, les vérifications nécessaires diffèrent selon que l'IA génère des réponses aux demandes ou qu'elle exécute des tâches comme le traitement des remboursements ou la modification des données clients. Ce n'est pas un exemple concret de la réunion, mais une illustration de la façon dont le débat peut être appliqué à la gestion quotidienne.

Qui approuve l'exécution ? Qui détecte les anomalies ? Jusqu'où peut-on revenir en arrière si l'on interrompt le processus ? La comparaison des performances ne répond pas à ces questions.

Même en attendant l'achèvement des règles internationales, les utilisateurs peuvent décider concrètement des pouvoirs accordés à l'IA et des responsabilités assumées par les humains.

Après le discours, des actions vérifiables sont nécessaires

L'avertissement lancé a du sens. Cependant, la force de l'avertissement ne suffit pas à mesurer la sécurité.

Les évaluateurs externes ont-ils accès à des informations suffisantes ? Peuvent-ils publier des résultats défavorables ? En cas de danger, le développement ou la publication peuvent-ils réellement être retardés ? Les critères de jugement sont-ils expliqués à l'avance ?

L'avenir où l'IA élargit les possibilités humaines et celui où les humains perdent leur pouvoir de décision ne se distingue pas uniquement par la performance.

La question est de savoir qui transformera l'avertissement lancé par les entreprises créant de l'IA à l'ONU en actions vérifiables, et comment. C'est là que l'attention doit se porter désormais.

URL de la source

1. AD HOC NEWS (24 septembre 2026). Avertissements des deux PDG, position d'Amodei sur le report de l'introduction de modèles, propositions de vérification et de rapport d'accidents. Le texte est également vérifiable dans les documents joints fournis.
   https://www.ad-hoc-news.de/wissenschaft/openai-und-anthropic-vor-der-un-chefs-warnen-vor-unkontrollierter-ki/70171896

2. OpenAI (23 septembre 2026). Discours d'Altman au Conseil de sécurité de l'ONU. Document source sur le contrôle humain, la concentration du pouvoir, les normes internationales et l'évitement de la fixation des entreprises existantes.
   https://openai.com/index/sam-altman-un-security-council-remarks/

3. Dario Amodei "We Must Pace the Frontier" (septembre 2026). Essai de l'auteur expliquant l'ajustement du rythme de développement et la proposition d'évaluateurs tiers ayant un accès continu aux sites de développement. Document de fond distinct de la réunion.
   https://darioamodei.com/post/we-must-pace-the-frontier

4. Site officiel de l'ONU (23 septembre 2026). Communication officielle présentant les explications d'OpenAI et d'Anthropic au Conseil de sécurité.
   https://www.un.org/en/live-openai-and-anthropic-brief-security-council-amid-%E2%80%98real-and-imminent%E2%80%99-threat-posed-runaway-ai

5. Publication LinkedIn de CNBC. Annonce de la réunion du Conseil de sécurité et commentaire public soulignant un manque de participants. Utilisé comme exemple de réaction sur les réseaux sociaux.
   https://www.linkedin.com/posts/cnbc_altman-and-amodei-expected-to-join-un-security-activity-7508491118909562880-PApn

6. Reddit "r/stocks". Réactions à un autre rapport sur le calendrier d'introduction en bourse d'OpenAI et la sécurité de l'IA. Doutes sur les explications des entreprises et contestations sur l'évaluation du progrès technologique. Non une réaction directe au discours de l'ONU, ni un document de vérification des faits.
   https://www.reddit.com/r/stocks/comments/1wexcu6/openai_ipo_will_not_happen_in_2026_amid_ai_safety/

※ Date de vérification : 24 septembre 2026. Les réactions sur les réseaux sociaux sont un résumé du contenu accessible au public et ne constituent pas une enquête statistique de l'opinion publique.