Le secteur de l’IT est extirpé de sa torpeur estivale par les révélations d’une attaque informatique orchestrée par une IA pour pirater un site Web [1]1. Une nouvelle menace qui s’ajoute aux IA qui tentent de faire du chantage aux personnes qui envisagent de les remplacer [2], ou celles qui amènent des internautes à modifier leur vote [3].
Tous ces événements posent la question des dangers de l’IA moderne2, et certains n’hésitent d’ailleurs plus à annoncer que celle-ci pourrait détruire l’humanité dans les prochaines décennies. Depuis, tout le monde, y compris les fournisseurs d’IA, en appelle à une IA générative éthique qui respecterait l’humain et l’intérêt général.
La société Anthropic fait parfois figure d’exemple. En début d’année, elle refusait certaines applications de son IA par le gouvernement américain tout en restreignant l’accès à certaines de ses IA jugées trop dangereuses [4, 5]. On avait alors, un peu vite3, célébré cette société comme l’exemple d’un acteur responsable.
Mais, derrière des paroles pleines de bonnes intentions, il est peu probable que la technologie existante permette l’émergence d’une IA éthique. Même si les fournisseurs avaient réellement la volonté de doter leurs IA d’une dimension éthique, ils en seraient bien incapables.
Les mathématiques sont amorales
Mon billet de juillet expliquait que les IA actuelles n’étaient pas intelligentes au sens humain du terme, et qu’il s’agissait «simplement» d’énormes modèles mathématiques statistiques basés sur la recherche de motifs récurrents de données sans aucune signification préalable4.
Mon billet d’août étudiait la distinction entre vérité mathématique et vérité scientifique. Un modèle d’IA peut être «juste» du point de vue des mathématiques tout en étant dépourvu de tout lien avec la réalité concrète. Complexité n’implique nullement exactitude. Attendre d’une formule mathématique, aussi sophistiquée soit elle, qu’elle prédise le caractère éthique ou non d’un contenu relève de la superstition.
Les fameuses hallucinations, ces contenus générés qui n’ont aucun sens ou contiennent des erreurs grossières et qui polluent les réponses des IA, nous le démontrent tous les jours. On peut avoir un modèle qui reproduit parfaitement les motifs extraits de son corpus d’apprentissage5 tout en générant des âneries qui feraient pâlir un cancre.
On comprend dès lors qu’en l’absence d’intelligence et sans la moindre certitude de produire des contenus en relation avec le réel, les IA actuelles, même les plus complexes, ne peuvent pas, par elles-mêmes, décider du caractère éthique ou non des contenus générés.
Éthique d’usage et éthique de conception
La seule manière d’apporter une dimension éthique à l’IA est de mettre de l’humain dans la boucle. Or l’humain intervient, en amont, dans la conception des modèles, et, en aval, dans leur utilisation. On peut donc distinguer une éthique d’usage et une éthique de conception.
L’éthique d’usage implique que, quelles que soient les capacités d’une IA, la personne qui l’utilise ne la mobilise jamais pour atteindre des buts immoraux. Sachant que des centaines de millions d’individus recourent tous les jours à l’IA, espérer que chacun n’en fasse qu’un usage approprié relève de la naïveté. Le rôle croissant joué par l’IA dans les «deepfakes», les cyberattaques ou les guerres hybrides rappelle que cela relève du vœu pieux.
À l’inverse, celles et ceux qui développent des IA sont bien moins nombreux et majoritairement regroupés dans un nombre limité d’institutions connues (entreprises, laboratoires de recherche, etc.). La possibilité que cette minorité puisse, par conviction ou par contrainte6, chercher à éviter les abus paraît une stratégie a priori plus sûre que compter sur une brusque épidémie de morale dans le monde.
Une éthique de conception suppose qu’une IA soit conçue pour que, quelles que que soient les intentions de ses utilisateurs et utilisatrices, aucune action immorale ne puisse découler de ses usages. La piste semble d’autant plus prometteuse qu’un nombre croissant d’acteurs prend conscience des menaces de l’IA.
Une éthique de conception insaisissable
S’il semble couler de source qu’une expertise est requise pour construire un modèle d’IA «éthique», encore faut-il s’interroger sur la nature de cette expertise. Quelles sont les compétences nécessaires pour distinguer un contenu généré par une IA comme éthique ou déterminer quelles utilisations sont morales ?
Il y a à l’évidence une dimension technique qui inclut notamment la maîtrise des outils informatiques pour collecter des corpus d’apprentissage, les utiliser afin de construire un modèle d’IA et comprendre comment tester différents scénarios d’interaction avec celui-ci.
Une réelle formation transdisciplinaire apparaît également comme indispensable avec une solide base dans diverses disciplines (histoire, philosophie, psychologie, etc.). Sans elle, impossible de remettre un quelconque contenu ou un usage particulier dans son contexte, étape indispensable pour en évaluer la qualité morale.
Or une telle formation est le plus souvent totalement absente des parcours éducatifs des personnes travaillant dans l’IA, sans parler de leur vie au sein des entreprises. On voit mal comment former au sein des cursus d’apprentissage existants un personnel avec cette double qualification, technique et humaniste.
De plus, il n’existe pas de normes absolues desquelles découlerait une éthique universelle. Comme l’a notamment montré le philosophe Edvard Westermarck, les normes diffèrent d’une culture à l’autre [6]. Ce qui est inacceptable pour certains est impératif pour d’autres7.
Nous serions donc tributaires de l’éthique en vogue dans les multinationales d’IA américaines et chinoises. Les premières s’inscrivent dans ce que j’ai appelé l’habitus de la Silicon Valley : une foi aveugle dans le développement technologique bien loin de notre sensibilité européenne. Quant aux secondes, les différences apparaissent encore plus marquées.
Une éthique de conception inapplicable
Mais faisons un moment abstraction de cette difficulté. Imaginons que nous soyons capables de former des personnes susceptibles d’imprimer une certaine éthique dans un modèle d’IA. Comment pourraient-elles procéder ?
Les modèles d’IA actuels sont à ce point énormes qu’ils agissent comme des «boîtes noires» qui rendent pratiquement impossible le traçage des réponses générées. Il est donc illusoire d’envisager identifier quels paramètres modifier et comment pour forcer une IA à générer des contenus éthiques, indépendamment de ce que l’on considère comme moral ou non.
En réalité, la seule manière d’influencer une IA consiste à filtrer son corpus d’apprentissage. En effet, dès lors qu’une IA reproduit les motifs récurrents des éléments de ce corpus, si on supprime tout élément «non éthique», on devrait éviter (ou au moins fortement limiter) la production de contenus problématiques.
Malheureusement, la chose n’est pas si simple. On ne peut pas se limiter à étudier le caractère éthique d’un élément, il faut aussi évaluer comment il peut amener la génération de contenus immoraux. Un roman mettant en scène Sherlock Holmes, par exemple, semble en apparence sans danger. Pourtant, il contient peut-être la description d’un crime qu’une IA pourrait «adapter» à une situation réelle selon la demande qui lui serait faite.
Il faut donc disposer d’un jeu de validation (ensemble de requêtes) suffisamment large pour couvrir l’ensemble des usages possibles. Après chaque mise à jour d’un modèle suite à l’analyse d’un élément du corpus8, il faudrait revérifier qu’aucune requête du jeu ne produit de contenus non souhaités (et retirer l’élément dans le cas contraire).
Hélas, je ne pense pas possible la construction d’un tel jeu de validation. Et quand bien même nous disposerions d’un tel jeu, il serait tellement vaste que le tester à chaque modification n’est pas envisageable. De plus, il faudrait que ce soient nos expertes et experts qui réexaminent systématiquement toutes les réponses9.
Les modèles d’IA actuels sont entraînés sur des corpus qui reprennent non seulement l’ensemble des pages en ligne disponibles, mais également de grandes quantités d’œuvres numérisées. On parle ici de milliards de milliards d’éléments à analyser pour détecter ceux qui pourraient produire des contenus non éthiques.
On comprend tout de suite qu’une telle vérification est tout simplement irréalisable. Imaginer former et payer un pool de personnes expertes suffisamment important pour assurer une telle tâche relève du rêve. D’autant plus que les entreprises de la tech cherchent à éviter tout frein au développement de l’IA.
Il n’est surtout pas certain que les fournisseurs privés de l’IA, et leurs actionnaires, aient envie de débourser des sommes importantes pour contribuer à l’intérêt général. Tout le monde se souvient que Meta s’est empressée de fermer son service de fact-checking dès le retour au pouvoir de Donald J. Trump [7].
Un corpus éthique probablement insuffisant
Supposons néanmoins un instant que nous disposions effectivement d’une cohorte de vérificateurs et vérificatrices bien formées et disposant du temps nécessaire pour éliminer tout élément du corpus d’apprentissage qui pourrait poser problème.
Quel pourcentage du corpus d’apprentissage initial resterait-il ? 80% ? 50% ? 30% ? Moins ? Cette question est fondamentale car la taille d’un modèle découle en partie de la taille du corpus qui sera utilisé pour l’entraîner. Diminuer cette dernière implique automatiquement de diminuer la première.
Or on sait que la taille d’un modèle influence son taux d’hallucinations. Une des motivations dans la course au gigantisme des modèles est justement d’arriver à de «meilleures» IA, d’où la nécessité de disposer de corpus toujours plus importants dont manquent déjà les fournisseurs10.
On se retrouve face à une quadrature du cercle : soit on diminue la taille du corpus pour éliminer les éléments problématiques, mais on augmente le taux d’hallucinations, soit on cherche à diminuer ce taux d’hallucinations, mais on a besoin de corpus encore plus grands qui rendent tout contrôle encore moins probable.
Les rustines en guise de stratégie
Que reste-il comme moyens pour tenter de corriger les résultats problématiques ? La solution actuelle consiste à introduire des étapes de pré- et de post-traitements en plus de l’appel à l’IA proprement dit. Il s’agit de vérifier les requêtes qui sont soumises, et les réponses qui sont générées.
Ainsi, si la requête touche certains sujets, le processus passe par un traitement particulier : refuser la requête11, proposer une réponse prédéfinie, utiliser une source prédéfinie pour produire un résultat ou ajouter quelque chose au contenu généré (par exemple : «Je ne suis pas médecin et je ne peux pas vous donner de réponses fiables»).
De même, si la réponse générée comporte des propos préalablement identifiés (comme certaines expressions offensantes), un post-traitement expurge ces derniers avant que la réponse ne soit présentée à l’utilisateur ou l’utilisatrice dans l’espoir, en fait l’illusion, d’éviter toute réponse non voulue.
Avec la complexité croissante des grands modèles d’IA, notamment l’augmentation de la fenêtre de contexte12, une tendance est d’ajouter, le plus souvent de manière transparente pour les utilisatrices et utilisateurs, des informations supplémentaires à la requête initiale pour tenter d’influencer le processus de génération dans la direction que l’on souhaite13. Mais cela revient à déléguer à l’IA le choix du caractère éthique ou non des contenus, chose dont on a vu qu’elle n’en est pas capable.
Au final, même une combinaison de ces approches n’apparaît pas très satisfaisante. C’est mieux que rien évidemment, cependant aucune solution structurelle n’existe pour venir encadrer les productions d’IA.
Au-delà de la communication
Par conséquent, une IA éthique est hors d’atteinte aujourd’hui. L’approche statistique demande toujours plus d’éléments d’apprentissage, et leur nombre empêche toute sélection quant à leur qualité et leurs impacts sur les modèles. Quant à l’IA, elle se contente de reproduire ce qui se trouve dans ces éléments sans en évaluer la portée dans le réel.
On peut se demander si les personnes qui parlent d’IA éthique y croient sincèrement, ou si c’est seulement du marketing. Alors que l’IA interroge de plus en plus, certains acteurs essayent peut-être simplement de détourner l’attention pour s’assurer que rien ne change dans la faible régulation actuelle autour de l’IA.
L’absence d’une stratégie capable de gérer la question éthique de l’IA renforce plus que jamais la nécessité d’encadrer fortement son utilisation. Si on tenait pour responsables, au moins partiellement, les fournisseurs d’IA pour les mauvais usages faits de leurs modèles d’IA, ceux-ci se montreraient sans doute plus circonspects dans la commercialisation de certains d’entre eux. Mais ceci est une autre histoire…
Références
[1] Nicolas Six, «Des agents d’IA d’OpenAI se sont échappés et piraté plusieurs entreprises : le point sur les faits et les questions qui se posent», Le Monde, 04/8/2026.
[2] Matthew Hutson, «AI Agents Break Rules Under Pressure», IEEE Spectrum, 63(2), pp. 5-7, 2026.
[3] Chiara Vargiu & Alessandro Nai, «AI chatbots can persuade voters to change their minds», Nature, 648(8093), pp. 287‑88, 2025.
[4] Alexandre Piquard, «Anthropic, cette start-up d’IA qui ose contredire Donald Trump», Le Monde, 11/02/2026.
[5] Chris Stokel-Walker, «Too Dangerous to Release: Is Mythos the Start of the Restricted-AI Era?» Nature, 653(8116), pp. 996-997, 2026.
[6] Edvard Westermarck, Ethical Relativity, Kegan Paul, Trench, Trubner & Co Ltd, 1932.
[7] Damien Leloup & Alexandre Piquard, «La fin des partenariats de fact-checking chez Meta, un revirement symbolique», Le Monde, janvier 07/01/2025.
Notes
- Des agents intelligents (logiciels autonomes basés sur de l’IA) de la société OpenAI ont réussi à contourner les barrières qui les empêchaient d’accéder à internet pour pirater le site Web de la société Hugging Face afin d’y voler la réponse à un défi qu’on leur soumettait. ↩︎
- Je souligne clairement que mon propos concerne l’approche statistique basée sur l’exploitation d’une masse de données, approche aujourd’hui hégémonique au sein du champ de l’IA. Il existe d’autres approches, généralement limitées à des problèmes spécifiques qui, tout en étant bien moins puissantes que les IA actuelles, sont parfaitement contrôlables. ↩︎
- Rappelons qu’il s’agissait seulement d’empêcher la surveillance de citoyens américains (pour les autres, il n’y avait pas de problèmes), et refuser qu’une IA tue sans validation humaine (donc dès que quelqu’un appuie sur un bouton, aucun souci). ↩︎
- Les motifs recherchés dans les exemples donnés à l’IA sont des successions de jetons («tokens»), un jeton dans le contexte de contenus textuels étant un groupe de quelques caractères (du type «chap», «eron» ou «rouge»). ↩︎
- Un corpus d’apprentissage regroupe l’ensemble des éléments utilisés pour entraîner (construire) un modèle statistique. ↩︎
- Les pouvoirs publics peuvent mettre en place des régulations qui forcent les acteurs de l’IA à respecter différentes contraintes sur leurs IA. C’est un peu la tentative de l’Union européenne avec l’IA Act. ↩︎
- Pensons simplement à l’éducation des femmes, considérée comme inacceptable par les Talibans en Afghanistan passé les 12 ans. ↩︎
- Un modèle se construit de manière itérative. Chaque élément du corpus constitue une étape de modification des paramètres du modèle. ↩︎
- On peut bien entendu créer des outils d’aide, mais entièrement automatiser le processus de vérification n’est pas souhaitable. On sait en effet que ce type d’outils tend soit à trop censurer, soit pas assez, mais qu’un juste milieu n’est que difficilement atteignable. ↩︎
- Pour compenser le manque de données, les fournisseurs génèrent très souvent des données synthétiques (par exemple en appliquant certains traitements à un image pour créer de nouvelles images qui viendront s’ajouter au corpus). ↩︎
- Certains modèles d’IA sont entraînés pour catégoriser une requête donnée comme légitime ou non. Mais ces modèles possèdent les mêmes problèmes que les autres en matière de précision (mais aussi de consommation énergétique, de manque de transparence, etc.). ↩︎
- La fenêtre de contexte reprend l’ensemble des informations qui sont fournies à l’IA générative, outre la requête initiale, pour engager la génération de contenus. Normalement, plus cette fenêtre est grande, plus il est possible de détailler le fond et la forme souhaités de la réponse générée. ↩︎
- Il est évident que les mêmes approches peuvent servir aussi à orienter politiquement les résultats générés, comme c’est sans doute le cas pour Grok, l’IA générative d’Elon Musk. ↩︎