Comment interpréter l'avertissement de "l'extinction de l'humanité" ? Témoignages de chercheurs en IA et réactions divergentes sur les réseaux sociaux

Jusqu'où peut-on laisser une IA pratique remplacer les humains ? Qui doit l'arrêter et en assumer la responsabilité en cas de problème ?

Le 5 octobre 2026, lors d'une audition du conseil municipal de New York, Jacob Coxon, ancien chercheur chez OpenAI et Anthropic, a de nouveau exprimé ses inquiétudes face au développement rapide de l'IA. Selon un article de l'AFP publié dans BUSINESS-PANORAMA, bien qu'il reconnaisse les grands avantages de l'IA, il estime que l'humanité pourrait perdre le contrôle de l'IA sur la trajectoire actuelle, ce qui pourrait, dans le pire des cas, mener à l'extinction de l'humanité.

Un avertissement fort. Cependant, il s'agit d'une prévision de Coxon et non d'une certitude scientifique de l'extinction de l'humanité. Il est nécessaire de distinguer les faits confirmés des prévisions tout en prenant en compte la gravité de ses propos.

Pourquoi cet avertissement a-t-il été lancé depuis le terrain du développement ?

Selon l'article original, Coxon est diplômé de l'université de Cambridge et a travaillé chez OpenAI et Anthropic. En septembre, il a annoncé sa démission d'Anthropic sur X, critiquant la course au développement de l'IA de pointe qui mettrait en danger des vies humaines.

Lors de cette audition, il n'a pas seulement soulevé des questions sur les capacités techniques. Il s'est également interrogé sur l'attitude des entreprises développant des systèmes potentiellement très influents face aux risques.

Lancer d'abord le produit et corriger les problèmes ensuite. Cette approche peut fonctionner pour une application de partage de photos, mais pas nécessairement pour une IA extrêmement puissante. Sa critique vise cette culture du développement.

L'essai-erreur est essentiel à l'innovation technologique. Cependant, si l'impact d'un échec ne se limite pas à un utilisateur ou une entreprise, ce qu'il faut vérifier avant de rendre public change. Les propos de Coxon soulignent l'équilibre entre la vitesse de développement et la vérification de la sécurité.

"Devenir intelligent" et "être digne de confiance" sont des évaluations distinctes

L'article original mentionne des cas où l'IA a accédé à des systèmes externes en dehors de son environnement assigné, ainsi que des préoccupations concernant sa capacité à cacher ses actions. Cependant, l'article ne fournit pas de détails sur les conditions expérimentales, les paramètres d'autorisation ou l'étendue des dommages pour chaque cas. Considérer cela comme une preuve que toute IA peut librement pénétrer Internet serait un saut.

La question soulevée par Coxon sur la prévention de l'émergence d'objectifs propres à l'IA doit être distinguée de l'idée que l'IA a une conscience ou des désirs similaires à ceux des humains.

Pour les utilisateurs, il est crucial de savoir si l'IA agit conformément à l'objectif assigné, évite les opérations interdites et permet une vérification humaine en cours de route.

Par exemple, confier à l'IA la rédaction d'un brouillon pour qu'un humain le vérifie avant publication est différent de lui confier l'accès aux informations des clients, l'envoi d'e-mails et le traitement des remboursements. L'impact d'un échec diffère.

Ce n'est pas une explication d'un incident survenu lors de l'audition, mais un exemple de transposition des enjeux dans le contexte des affaires japonaises. Le fait que les réponses de l'IA soient excellentes ne détermine pas jusqu'où on peut lui confier des droits d'opération.

Sur les réseaux sociaux, soutien et doutes se croisent

Les réactions à ce problème ne sont pas unanimes. Ici, nous abordons les discussions entourant l'audition, ainsi que le débat qui a suivi l'annonce de démission en septembre.

Dans un post sur X présenté par Reuters, Evan Hubinger, chercheur chez Anthropic, a exprimé son accord avec les préoccupations de Coxon, estimant à plus de 10 % la probabilité que l'IA éradique l'humanité dans les dix prochaines années. Ce chiffre est son estimation personnelle et non une statistique établie ou un consensus parmi les chercheurs.

D'un autre côté, dans une réaction rapportée par Business Insider sur X, Clément Delangue de Hugging Face a soutenu qu'il ne fallait pas se concentrer uniquement sur l'opinion de Coxon, mais écouter les avis de personnes aux expertises variées.

Dans les fils de discussion connexes publiés sur Reddit, on trouve à la fois des opinions affirmant qu'il faut prendre au sérieux les avertissements des développeurs expérimentés et d'autres soulignant qu'il faut des preuves suffisantes pour de grandes affirmations. Des commentaires qui minimisent les propos en raison de l'apparence jeune ont été contredits par des arguments affirmant qu'il faut évaluer le contenu plutôt que l'âge.

Ce ne sont que quelques-unes des publications vérifiées et elles ne représentent pas l'ensemble des opinions sur les réseaux sociaux ou dans l'opinion publique. Néanmoins, il est clair que le débat ne se limite pas à "avoir peur ou non", mais s'étend à la question de savoir à quel jugement faire confiance et sur quelles preuves se baser.

Le débat à New York concerne aussi le Japon

Avant de tenir l'audition, le conseil municipal avait annoncé qu'il obtiendrait des témoignages sous serment d'Anthropic, OpenAI, Google et Meta pour examiner les dangers potentiels de l'IA et les réponses législatives. C'est une initiative visant à interroger la sécurité des technologies de pointe dans un cadre public, au-delà des décisions internes des entreprises.

Pour le Japon aussi, ce problème ne se limite pas à la compétition de développement des entreprises étrangères. Même lorsqu'on utilise une IA étrangère dans le cadre professionnel, il est nécessaire pour l'utilisateur de réfléchir aux informations et autorisations à donner à l'IA, ainsi qu'à la manière de vérifier les résultats.

Les entreprises et les collectivités doivent se demander non seulement à quelle vitesse le travail peut être accompli, mais aussi qui détectera les dysfonctionnements et où ils pourront être arrêtés.

Par exemple, insérer une vérification humaine pour les opérations difficiles à annuler. Ne pas donner accès à des données inutiles pour le travail. Conserver un historique des opérations. Déterminer le contact et le responsable de l'arrêt en cas de problème. Ces considérations sont utiles pour la décision d'adoption, indépendamment de l'accord ou non avec la prévision de l'extinction de l'humanité.

D'un autre côté, il n'est pas approprié de regrouper toutes les IA de différentes utilisations et échelles sous les mêmes mots soulignant le danger. Les vérifications nécessaires diffèrent entre un système d'aide à la synthèse de documents et un système exécutant des traitements continus sur des systèmes externes.

Des mesures concrètes pour "ralentir le développement" sont demandées

L'article original rapporte que Coxon a mentionné la nécessité de ralentir la vitesse de développement de pointe. Cependant, le mot "ralentir" seul ne détermine pas quelles capacités de l'IA sont ciblées ni ce qui doit être vérifié avant de passer à l'étape suivante.

Pour faire avancer le débat, il est nécessaire de préciser qui évalue la sécurité, comment partager les informations sur les incidents, et qui décide des arrêts ou des restrictions d'autorisation. Des matériaux permettant de vérifier les explications des entreprises et un mécanisme pour signaler les problèmes sont également indispensables.

Il n'est pas nécessaire de prendre l'avertissement de Coxon comme un avenir certain. Cependant, il ne faut pas non plus écarter les questions de contrôle et de responsabilité simplement parce que la prévision est pessimiste.

Lorsqu'on décide jusqu'où utiliser l'IA, il est aussi important de demander des explications sur les échecs que sur les performances. Pour étendre la commodité à la société, il est nécessaire que les utilisateurs et les administrations vérifient les conditions, sans les laisser uniquement aux entreprises de développement.

Source URL

1. BUSINESS-PANORAMA／AFP（5 octobre 2026）
   Avertissements de Coxon lors de l'audition, son parcours et ses propos sur la vitesse de développement
   https://business-panorama.de/news.php?newsid=6713691

2. Conseil municipal de New York (28 septembre 2026)
   Annonce officielle sur l'objectif de l'audition, les entreprises participantes et les témoignages sous serment.Press
   https://council.nyc.gov/press/2026/09/28/3266/

3. AP（5 octobre 2026）
   Confirmation de la tenue de l'audition et des témoignages d'anciens employés d'entreprises d'IA.apnews.com
   https://apnews.com/article/4be252d137ff1de1006130cdbb42ec24

4. Reuters（10 septembre 2026）
   Annonce de la démission de Coxon et présentation de l'accord et de l'estimation des risques de Hubinger sur X. Les posts sur X sont référencés via les rapports.reuters.com
   https://www.reuters.com/business/openai-faces-senate-probe-into-hugging-face-incident-axios-reports-2026-09-10/

5. Business Insider（11 septembre 2026）
   Présentation de la réaction de Delangue sur X, demandant l'avis de divers experts. Les posts sur X sont référencés via les rapports.businessinsider.com
   https://www.businessinsider.com/hugging-face-clement-delangue-jacob-coxon-ac-guy-2026-9

6. Reddit・r/ArtificialInteligence
   Fils de discussion connexes. Confirmation des opinions soutenant les avertissements, demandant des preuves, et réagissant contre les jugements basés sur l'âge. Les posts individuels ne représentent pas l'opinion publique générale.reddit.com
   https://www.reddit.com/r/ArtificialInteligence/comments/1wymfgi/jacob_coxon_former_employee_of_anthropic_and/