L'IA ira-t-elle sur le champ de bataille : les "usages interdits" présentés par OpenAI et les points de controverse sur les réseaux sociaux

L'IA ira-t-elle sur le champ de bataille : les "usages interdits" présentés par OpenAI et les points de controverse sur les réseaux sociaux

Alors que l'IA se rapproche de l'infrastructure centrale de la sécurité nationale, OpenAI a signé un nouveau contrat avec les autorités de défense américaines, établissant des "usages interdits = lignes rouges" clairs pour l'utilisation de l'IA dans le domaine militaire. Le débat ne se résume pas à une simple question de "coopération militaire ou non". Jusqu'où peut-on mettre des freins par le biais de contrats et d'opérations, sans laisser cela à la discrétion de ceux qui utilisent l'IA ? Et, ces freins peuvent-ils résister aux changements de l'environnement politique ?


1) Qu'est-ce qui a été décidé : les "lignes rouges" établies par OpenAI

Selon les rapports, l'accord d'OpenAI avec les autorités de défense américaines impose de fortes restrictions (les soi-disant lignes rouges) dans au moins les domaines suivants.

  • Interdiction d'utiliser l'IA pour la surveillance de masse domestique

  • Interdiction pour l'IA de diriger et d'opérer de manière autonome des armes autonomes

  • Interdiction de déléguer à l'IA des décisions à haut risque nécessitant l'approbation humaine (réduction des jugements et exécutions automatiques à haut risque)


OpenAI souligne qu'il ne s'agit pas seulement de proclamer ces principes, mais de les protéger par des clauses contractuelles, des règles opérationnelles et des mesures techniques.

2) Qu'est-ce que les "garde-fous à plusieurs niveaux" : verrouillage technique, opérationnel et contractuel

La caractéristique de cette fois-ci est de mettre en avant "comment protéger" au-delà d'une simple déclaration éthique. Selon un rapport de Reuters, OpenAI prévoit de multiplier les garde-fous tout en envisageant une opération sur des réseaux confidentiels. Par exemple,

  • Maintien de la discrétion dans la conception et l'application des mesures de sécurité

  • Formes de prestation dans le cloud ou en environnement fermé

  • Vérification et contrôle des qualifications du personnel

  • Protection contractuelle forte incluant l'arrêt et la résiliation en cas de violation du contrat
    Ce sont là quelques éléments (les détails sont limités à la portée publique). L'important est de créer une structure qui peut être arrêtée si elle est violée, non pas en se fiant à la "bonne volonté de l'utilisateur", mais par le biais de contrats et de mécanismes.


Cependant, à l'inverse, plus la capacité de l'IA augmente, plus il devient difficile de déterminer "à partir de quand un usage est interdit" et comment traiter les usages combinés. Par exemple, l'analyse de l'information peut être à la fois un objectif légitime pour la défense et un renforcement de la surveillance. Plus la ligne d'interdiction est claire, plus la tentation de "faire en dehors de la ligne" émerge. Les garde-fous doivent non seulement être "conçus", mais aussi être évalués pour leur maturité opérationnelle, y compris l'audit, les journaux et la détection des écarts.

3) Pourquoi ce contrat est-il maintenant mis en lumière : Exclusion d'Anthropic et ombre politique

Ce qui a fait monter en flèche cette nouvelle, ce n'est pas seulement l'histoire d'OpenAI. Les rapports indiquent que l'administration américaine a considéré le concurrent Anthropic comme un "risque pour la chaîne d'approvisionnement" et s'est orientée vers l'arrêt de son utilisation par le gouvernement, et juste après, le contrat avec OpenAI a été mis en avant.


Ce développement a montré que l'approvisionnement en IA peut devenir une "sélection nationale" impliquant non seulement une "compétition de performance", mais aussi la politique, la sécurité et l'éthique des entreprises. OpenAI, tout en exprimant des préoccupations et des objections concernant le traitement des concurrents, explique que son propre contrat inclut des lignes rouges.


4) Réactions sur les réseaux sociaux : Évaluation et méfiance coexistent dans le débat sur les "lignes rouges"

 

Les réactions sur les réseaux sociaux se divisent en trois grands groupes.


A. Ceux qui pensent que "mettre les lignes rouges dans le contrat est un progrès"

Sur Reddit, par exemple, au lieu de se précipiter pour annuler ou boycotter après avoir vu la nouvelle, des voix se sont élevées pour dire "lisons ce qui est interdit". Lorsque les lignes rouges du contrat (interdiction de la surveillance de masse et de l'opération autonome des armes) ont été discutées,

  • "C'est mieux qu'avant, ne serait-ce que pour avoir formulé les interdictions"

  • "Si l'utilisation militaire ne peut pas être réduite à zéro, il est plus réaliste de créer au moins des lignes de démarcation"
    Ce sont des évaluations de la "voie réaliste".


B. Ceux qui pensent que "les mots ne suffisent pas" (inquiétudes concernant les échappatoires et la dénaturation)

D'un autre côté, il y a une suspicion persistante que **"les interdictions seront vidées de leur substance par l'opération"**.

  • L'analyse de l'information, le soutien à la sélection des cibles et les systèmes de surveillance ont des frontières floues

  • Bien qu'il soit dit que "l'humain donne l'approbation finale", il y a un risque que cela se transforme en approbation de fait

  • Dans les opérations confidentielles, la vérification par des tiers est difficile
    Ces points sont souvent discutés. Ici, plus que les lignes rouges elles-mêmes, c'est le manque d'auditabilité et de transparence qui est au cœur de la méfiance.


C. Ceux qui pensent que "c'est finalement une coopération militaire" (rejet par principe)

Il s'agit également d'une question de valeurs. Business Insider mentionne que, en guise de réaction, certains se tournent vers des concurrents en abandonnant ChatGPT. C'est une position qui ne peut accepter une "acceptation conditionnelle" de la coopération militaire dès le départ.

 
De plus, certains messages sur les réseaux sociaux présentent une vision critique selon laquelle plusieurs entreprises auraient assoupli leurs garde-fous pour le militaire.

5) Le point de débat n'est pas "militaire ou civil", mais "peut-on contrôler"

Ce qui a été mis en lumière dans cette affaire, c'est que le débat sur l'utilisation de l'IA pour la sécurité ne se limite plus à un simple pour ou contre, mais a progressé vers l'étape suivante. En d'autres termes,

  • Il ne suffit pas de "formuler" les usages interdits, il faut aussi avoir un mécanisme pour les faire respecter dans l'opération

  • Lorsque les règles sont inversées par une décision politique, l'entreprise peut-elle refuser

  • Même dans un environnement confidentiel, comment assurer une responsabilité minimale (ce qui a été empêché)


Le fait qu'OpenAI ait mis en avant les "lignes rouges" et les "garde-fous à plusieurs niveaux" peut être lu comme une réponse à ce point de débat. Cependant, pour obtenir l'approbation de la société, il ne suffit pas d'avoir des lignes rouges, il est essentiel d'avoir la détection, la correction des écarts et des rapports dans la mesure du possible.


Le domaine militaire cherche toujours des "exceptions". C'est pourquoi, plus l'introduction de l'IA progresse, plus le danger que "les exceptions ne soient plus des exceptions" augmente. Ce que ce contrat a montré, ce n'est pas tant la réalité que l'IA se rapproche du champ de bataille, mais quelle sorte de modèle de contrôle nous adoptons face à cette réalité.


URL de la source

Articles connexes