Le secteur de l'IA en émoi ! Le PDG d'Anthropic parle des aspects sombres de l'intelligence artificielle

Pourquoi une entreprise visant une "IA sûre" a-t-elle accru le nombre de ses ennemis

« L'IA peut être dangereuse. C'est pourquoi elle doit être développée avec prudence »

Si l'on s'en tient à ces mots, nombreux seraient ceux qui seraient d'accord. Mais que se passe-t-il si ces mots viennent du dirigeant d'une entreprise en pleine croissance, développant l'une des IA les plus performantes au monde ?

Certains pourraient y voir un avertissement responsable, tandis que d'autres pourraient soupçonner une tentative de freiner la croissance des concurrents.

Le conflit autour d'Anthropic, développeur de l'IA générative "Claude", et de son PDG Dario Amodei, illustre cette complexité.

Un article du New York Times, publié le 13 novembre 2026, décrit comment les avertissements d'Amodei ont transformé l'agacement de ses pairs en une opposition farouche. Les divergences d'opinion sur la sécurité de l'IA ne sont pas les seuls facteurs en jeu. La compétition technologique, les relations avec les clients, et la domination d'un marché colossal sont également en cause.

Pour les utilisateurs japonais, ce n'est pas simplement une querelle entre dirigeants de pays lointains. Cela touche aux prix, aux choix et aux conditions d'utilisation des services d'IA dans le cadre professionnel.

Anthropic n'a pas signé la lettre en faveur de la publication

Selon le NYT, l'un des points de discorde est apparu lors d'un débat politique sur la publication des modèles d'IA.

Le journal rapporte qu'Anthropic et OpenAI ont fait pression sur la Maison Blanche pour empêcher le développement et la large diffusion de certains modèles d'IA jugés trop dangereux.

En revanche, Satya Nadella de Microsoft et Jensen Huang, alors PDG de NVIDIA, ont préparé une lettre en faveur de la publication des modèles. De nombreuses entreprises ont soutenu cette initiative, et OpenAI a également signé, mais Amodei n'a pas participé.

Il est important de distinguer entre les pressions politiques décrites dans les reportages et la position qu'Anthropic explique elle-même.

Dans une déclaration officielle du 27 juillet, l'entreprise a affirmé ne jamais avoir proposé d'interdire les modèles à poids ouverts. Elle reconnaît également la valeur des modèles publiés qui ne possèdent pas de capacités dangereuses, car ils bénéficient aux entreprises, développeurs et chercheurs.

Ce qu'elle préconise, c'est un test de sécurité pour les modèles suffisamment performants, qu'ils soient publics ou privés.

Ainsi, réduire ce débat à une opposition entre les entreprises favorables à la publication et Anthropic demandant une interdiction totale, c'est manquer l'essentiel des enjeux.

Que signifie "poids ouverts" ?

Les poids ouverts désignent une méthode de publication des "poids", qui sont les valeurs numériques déterminant le comportement d'une IA entraînée. Les utilisateurs peuvent obtenir le modèle et l'exécuter ou l'ajuster dans leur propre environnement, selon certaines conditions.

Cependant, même si les poids sont publiés, cela ne signifie pas que toutes les données d'apprentissage ou le processus de développement sont rendus publics. Il est prématuré de penser que "ouvert" signifie une utilisation totalement libre et une transparence complète.

La lettre des entreprises soutenant la publication met l'accent sur l'importance pour les utilisateurs de ne pas dépendre d'une seule entreprise et de pouvoir adapter l'IA à leurs besoins.

Prenons l'exemple d'un système traitant des documents internes en japonais.

Utiliser un service d'IA externe peut réduire les charges d'installation et d'exploitation. En revanche, faire fonctionner le modèle dans son propre environnement facilite la gestion de l'emplacement des données et des mises à jour, mais cela implique aussi des coûts d'équipement et de maintenance.

Il ne s'agit pas de déterminer quelle option est toujours la meilleure. L'intérêt des modèles publiés réside dans la possibilité pour les utilisateurs de choisir en fonction de leurs besoins et de leur budget.

Parler de "sécurité" tout en percevant des dangers différents

Il est intéressant de noter que ceux qui soutiennent la publication ne déclarent pas ignorer la sécurité.

La lettre des entreprises affirme que la large vérification des modèles publiés facilite la détection des problèmes et fournit de puissants outils à ceux qui travaillent sur la défense. La concentration des capacités dans quelques modèles non publiés pourrait elle-même devenir une faiblesse.

En revanche, Anthropic met en avant les difficultés de récupération des poids après publication et la difficulté de surveiller l'utilisation pour prévenir les abus.

En comparant les dangers que chaque camp met en avant, les divergences apparaissent clairement.

Ceux qui privilégient la publication craignent que la technologie ne se concentre dans quelques entreprises, rendant impossible toute vérification externe. Ceux qui demandent une publication prudente craignent que des capacités puissantes, une fois diffusées, deviennent difficiles à contrôler même pour leurs développeurs.

Ainsi, il ne s'agit pas d'une opposition totale sur ce qui doit être protégé. Les différences résident dans les méthodes pour assurer la sécurité et les dangers à prioriser.

Pourquoi les avertissements sur la sécurité suscitent-ils des doutes commerciaux ?

Le NYT ne limite pas l'opposition à Anthropic à ses déclarations sur la sécurité.

L'article indique que, malgré sa croissance rapide, l'entreprise a cessé de fournir des services à certains clients et concurrents, et s'est opposée à des services alternatifs gratuits proposés par d'autres entreprises.

Les détails de ces actions et leur légitimité ne peuvent être jugés à partir des seuls extraits disponibles. Cependant, l'article suggère que l'image d'une entreprise "faisant ce qui est juste" contraste avec l'attitude stricte qu'elle adopte dans la compétition.

Ce problème n'est pas unique aux entreprises d'IA.

Des normes de sécurité strictes peuvent être nécessaires pour protéger les utilisateurs. Cependant, si leur mise en œuvre est coûteuse, les entreprises disposant de plus de ressources financières et humaines pourraient en tirer avantage.

Cela dit, il ne serait pas juste de conclure que toutes les préoccupations de sécurité sont de façade. Il est possible que ces préoccupations soient réelles tout en étant commercialement avantageuses pour l'entreprise.

Il en va de même pour les entreprises soutenant la publication. Si le marché de l'IA s'élargit, cela pourrait stimuler la demande pour les semi-conducteurs et le cloud. La philosophie de la publication et les intérêts commerciaux coexistent.

Lorsqu'on lit les revendications des entreprises, il est plus utile de se demander qui bénéficiera des règles proposées et quelles charges elles imposeront, plutôt que de spéculer sur leurs intentions.

Sur les réseaux sociaux, des voix s'élèvent en faveur de la publication, mais ce sont les acteurs de l'industrie qui s'expriment

Ce débat s'est également étendu aux réseaux sociaux, où les dirigeants ont exprimé leurs positions.

Voici un résumé des publications sur X concernant la lettre ouverte de juillet, basé sur des reportages. Ce n'est pas une réaction directe à l'article du NYT du 13 novembre, ni une représentation de l'opinion générale des utilisateurs.

Jensen Huang : la nécessité des modèles ouverts et fermés

Huang a publié que les modèles ouverts soutiennent la sécurité, la cybersécurité, la diffusion technologique et l'exploitation autonome.

Il est notable qu'il ne considère pas les modèles fermés comme inutiles. Il prône la nécessité des modèles ouverts et fermés de pointe, évitant ainsi un choix binaire simpliste.

Sam Altman : soutenir la victoire des États-Unis dans les deux approches

Sam Altman d'OpenAI a également exprimé son soutien à la réussite des États-Unis dans les modèles ouverts et fermés, selon les rapports.

Cette déclaration montre que la position des entreprises fournissant des modèles ne se divise pas simplement entre celles qui publient et celles qui ferment. Les entreprises évaluent les modèles ouverts à la fois du point de vue de leurs activités et de leurs politiques.

Brian Armstrong : la valeur de l'adaptation aux besoins des entreprises

Brian Armstrong de Coinbase a soutenu les modèles ouverts puissants des États-Unis et mentionné le transfert de ses opérations vers ces modèles.

Il a cité comme raison la possibilité d'adapter les modèles aux besoins de l'entreprise.

C'est un point que les entreprises japonaises peuvent facilement comprendre. L'IA qui obtient le meilleur score dans une évaluation générale des performances n'est pas toujours celle qui est la plus rentable pour les tâches spécifiques d'une entreprise.

Cependant, il est important de noter que ces déclarations proviennent d'acteurs ayant des intérêts dans le marché de l'IA. Les voix des dirigeants sur les réseaux sociaux ne peuvent être lues comme le consensus social.

Pour les utilisateurs japonais, la question de "qui décide" revient

Pour les utilisateurs d'IA au Japon, ce conflit prend tout son sens dans le choix et l'exploitation des services.

Par exemple, que se passe-t-il si, après avoir intégré profondément une IA dans leurs opérations, les prix ou les conditions d'utilisation changent ? Combien de travail serait nécessaire pour passer à un autre modèle ?

Inversement, si une entreprise exploite un modèle ouvert en interne, qui sera responsable des mises à jour et de la gestion des vulnérabilités ? Obtenir un modèle et l'utiliser de manière sécurisée sont deux défis distincts.

Ainsi, il ne s'agit pas seulement de déterminer quelle entreprise a raison.

Il faut considérer les tarifs, les performances, la gestion des données, la réponse aux changements, et la possibilité de passer à d'autres services.

Il en va de même pour les politiques. Si des tests de sécurité sont exigés, il est crucial de savoir ce qui sera mesuré, qui évaluera, et dans quelle mesure les résultats seront publiés. Si la publication est encouragée, la répartition des responsabilités en cas d'abus ou d'accidents doit être clarifiée.

Les explications du type "c'est sûr, faites-nous confiance" ou "c'est ouvert, donc c'est rassurant" ne suffisent pas pour que les utilisateurs prennent une décision éclairée.

Pour ne pas laisser l'avenir de l'IA être décidé uniquement par l'auto-évaluation des entreprises

L'opposition à Anthropic inclut à la fois des divergences sérieuses sur la sécurité et une méfiance envers un concurrent en pleine croissance. Cependant, il ne faut pas réduire les motivations non vérifiables à une seule.

Ce qui importe, ce n'est pas la popularité d'Amodei ou le nombre d'entreprises signataires.

Il s'agit de savoir si les revendications de sécurité peuvent être reliées à une vérification indépendante, si les bénéfices de la publication peuvent être étendus au-delà des intérêts de certaines entreprises pour offrir plus de choix aux utilisateurs, et qui assumera la responsabilité des explications et des actions en cas de problème grave.

Les murs entourant l'IA ont pour rôle de contenir les dangers. Cependant, ces murs peuvent aussi restreindre les choix des utilisateurs et la vérification externe.

Ce dont nous avons besoin, ce ne sont pas seulement des slogans pour élever ou abattre ces murs, mais des discussions concrètes sur leur emplacement, leur but, et qui en vérifiera la légitimité.

Sources et références

1. The New York Times : sur l'opposition à Anthropic dans l'industrie, les conflits entre entreprises concernant les modèles publiés, et les critiques des pratiques commerciales.
   https://www.nytimes.com/2026/11/13/technology/anthropic-dario-amodei-ai-openai.html

2. Déclaration officielle d'Anthropic : niant l'interdiction totale des modèles publiés et proposant des tests de sécurité pour les modèles publics et privés performants, position du 27 juillet 2026.
   https://www.anthropic.com/news/position-open-weights-modelsanthropic.com

3. « Open Weights and American AI Leadership » : lettre ouverte d'un consortium d'entreprises discutant des avantages des modèles publiés pour la concurrence, le contrôle utilisateur, et la sécurité.
   https://images.nvidia.com/pdf/Open-Weights-and-American-AI-Leadership.pdfimages.nvidia.com

4. AI Frontier : sur la signature de la lettre ouverte, et les publications X de Huang, Altman, et Armstrong. Les résumés des publications sur les réseaux sociaux sont confirmés via cet article. Les textes originaux des publications n'ont pas été directement obtenus.
   https://aifrontier.kr/en/articles/open-weights-letter-2026/