{"id":3888,"date":"2026-09-20T09:22:21","date_gmt":"2026-09-20T07:22:21","guid":{"rendered":"https:\/\/www.francq.info\/?p=3888"},"modified":"2026-09-20T09:22:22","modified_gmt":"2026-09-20T07:22:22","slug":"2026-09","status":"publish","type":"post","link":"https:\/\/www.francq.info\/index.php\/blog\/2026-09\/","title":{"rendered":"L’impossibilit\u00e9 d’une IA \u00e9thique"},"content":{"rendered":"\n

Le secteur de l’IT<\/a> est extirp\u00e9 de sa torpeur estivale par les r\u00e9v\u00e9lations d’une attaque informatique orchestr\u00e9e par une IA pour pirater un site Web [1<\/a>]1<\/a><\/sup>. Une nouvelle menace qui s’ajoute aux IA qui tentent de faire du chantage aux personnes qui envisagent de les remplacer [2<\/a>], ou celles qui am\u00e8nent des internautes \u00e0 modifier leur vote [3<\/a>].<\/p>\n\n\n\n

Tous ces \u00e9v\u00e9nements posent la question des dangers de l’IA moderne2<\/a><\/sup>, et certains n’h\u00e9sitent d’ailleurs plus \u00e0 annoncer que celle-ci pourrait d\u00e9truire l’humanit\u00e9 dans les prochaines d\u00e9cennies. Depuis, tout le monde, y compris les fournisseurs d’IA, en appelle \u00e0 une IA g\u00e9n\u00e9rative \u00e9thique qui respecterait l’humain et l’int\u00e9r\u00eat g\u00e9n\u00e9ral.<\/p>\n\n\n\n

La soci\u00e9t\u00e9 Anthropic<\/a> fait parfois figure d’exemple. En d\u00e9but d’ann\u00e9e, elle refusait certaines applications de son IA par le gouvernement am\u00e9ricain tout en restreignant l’acc\u00e8s \u00e0 certaines de ses IA jug\u00e9es trop dangereuses [4<\/a>, 5<\/a>]. On avait alors, un peu vite3<\/a><\/sup>, c\u00e9l\u00e9br\u00e9 cette soci\u00e9t\u00e9 comme l’exemple d’un acteur responsable.<\/p>\n\n\n\n

Mais, derri\u00e8re des paroles pleines de bonnes intentions, il est peu probable que la technologie existante permette l’\u00e9mergence d’une IA \u00e9thique. M\u00eame si les fournisseurs avaient r\u00e9ellement la volont\u00e9 de doter leurs IA d’une dimension \u00e9thique, ils en seraient bien incapables.<\/p>\n\n\n\n

Les math\u00e9matiques sont amorales<\/h5>\n\n\n\n

Mon billet de juillet<\/a> expliquait que les IA actuelles n’\u00e9taient pas intelligentes au sens humain du terme, et qu’il s’agissait \u00absimplement\u00bb d’\u00e9normes mod\u00e8les math\u00e9matiques statistiques bas\u00e9s sur la recherche de motifs r\u00e9currents de donn\u00e9es sans aucune signification pr\u00e9alable4<\/a><\/sup>.<\/p>\n\n\n\n

Mon billet d’ao\u00fbt<\/a> \u00e9tudiait la distinction entre v\u00e9rit\u00e9 math\u00e9matique et v\u00e9rit\u00e9 scientifique. Un mod\u00e8le d’IA peut \u00eatre \u00abjuste\u00bb du point de vue des math\u00e9matiques tout en \u00e9tant d\u00e9pourvu de tout lien avec la r\u00e9alit\u00e9 concr\u00e8te. Complexit\u00e9 n’implique nullement exactitude. Attendre d’une formule math\u00e9matique, aussi sophistiqu\u00e9e soit elle, qu’elle pr\u00e9dise le caract\u00e8re \u00e9thique ou non d’un contenu rel\u00e8ve de la superstition.<\/p>\n\n\n\n

Les fameuses hallucinations<\/a>, ces contenus g\u00e9n\u00e9r\u00e9s qui n’ont aucun sens ou contiennent des erreurs grossi\u00e8res et qui polluent les r\u00e9ponses des IA, nous le d\u00e9montrent tous les jours. On peut avoir un mod\u00e8le qui reproduit parfaitement les motifs extraits de son corpus d’apprentissage5<\/a><\/sup> tout en g\u00e9n\u00e9rant des \u00e2neries qui feraient p\u00e2lir un cancre.<\/p>\n\n\n\n

On comprend d\u00e8s lors qu’en l’absence d’intelligence et sans la moindre certitude de produire des contenus en relation avec le r\u00e9el, les IA actuelles, m\u00eame les plus complexes, ne peuvent pas, par elles-m\u00eames, d\u00e9cider du caract\u00e8re \u00e9thique ou non des contenus g\u00e9n\u00e9r\u00e9s.<\/p>\n\n\n\n

\u00c9thique d’usage et \u00e9thique de conception<\/h5>\n\n\n\n

La seule mani\u00e8re d’apporter une dimension \u00e9thique \u00e0 l’IA est de mettre de l’humain dans la boucle. Or l’humain intervient, en amont, dans la conception des mod\u00e8les, et, en aval, dans leur utilisation. On peut donc distinguer une \u00e9thique d’usage et une \u00e9thique de conception.<\/p>\n\n\n\n

L’\u00e9thique d’usage implique que, quelles que soient les capacit\u00e9s d’une IA, la personne qui l’utilise ne la mobilise jamais pour atteindre des buts immoraux. Sachant que des centaines de millions d’individus recourent tous les jours \u00e0 l’IA, esp\u00e9rer que chacun n’en fasse qu’un usage appropri\u00e9 rel\u00e8ve de la na\u00efvet\u00e9. Le r\u00f4le croissant jou\u00e9 par l’IA dans les \u00abdeepfakes<\/em><\/a>\u00bb, les cyberattaques ou les guerres hybrides rappelle que cela rel\u00e8ve du v\u0153u pieux.<\/p>\n\n\n\n

\u00c0 l’inverse, celles et ceux qui d\u00e9veloppent des IA sont bien moins nombreux et majoritairement regroup\u00e9s dans un nombre limit\u00e9 d’institutions connues (entreprises, laboratoires de recherche, etc.). La possibilit\u00e9 que cette minorit\u00e9 puisse, par conviction ou par contrainte6<\/a><\/sup>, chercher \u00e0 \u00e9viter les abus para\u00eet une strat\u00e9gie a priori<\/em> plus s\u00fbre que compter sur une brusque \u00e9pid\u00e9mie de morale dans le monde.<\/p>\n\n\n\n

Une \u00e9thique de conception suppose qu’une IA soit con\u00e7ue pour que, quelles que que soient les intentions de ses utilisateurs et utilisatrices, aucune action immorale ne puisse d\u00e9couler de ses usages. La piste semble d’autant plus prometteuse qu’un nombre croissant d’acteurs prend conscience des menaces de l’IA.<\/p>\n\n\n\n

Une \u00e9thique de conception insaisissable<\/h5>\n\n\n\n

S’il semble couler de source qu’une expertise est requise pour construire un mod\u00e8le d’IA \u00ab\u00e9thique\u00bb, encore faut-il s’interroger sur la nature de cette expertise. Quelles sont les comp\u00e9tences n\u00e9cessaires pour distinguer un contenu g\u00e9n\u00e9r\u00e9 par une IA comme \u00e9thique ou d\u00e9terminer quelles utilisations sont morales ?<\/p>\n\n\n\n

Il y a \u00e0 l’\u00e9vidence une dimension technique qui inclut notamment la ma\u00eetrise des outils informatiques pour collecter des corpus d’apprentissage, les utiliser afin de construire un mod\u00e8le d’IA et comprendre comment tester diff\u00e9rents sc\u00e9narios d’interaction avec celui-ci.<\/p>\n\n\n\n

Une r\u00e9elle formation transdisciplinaire appara\u00eet \u00e9galement comme indispensable avec une solide base dans diverses disciplines (histoire, philosophie, psychologie, etc.). Sans elle, impossible de remettre un quelconque contenu ou un usage particulier dans son contexte, \u00e9tape indispensable pour en \u00e9valuer la qualit\u00e9 morale.<\/p>\n\n\n\n

Or une telle formation est le plus souvent totalement absente des parcours \u00e9ducatifs des personnes travaillant dans l’IA, sans parler de leur vie au sein des entreprises. On voit mal comment former au sein des cursus d’apprentissage existants un personnel avec cette double qualification, technique et humaniste.<\/p>\n\n\n\n

De plus, il n’existe pas de normes absolues desquelles d\u00e9coulerait une \u00e9thique universelle. Comme l’a notamment montr\u00e9 le philosophe Edvard Westermarck<\/a>, les normes diff\u00e8rent d’une culture \u00e0 l’autre [6<\/a>]. Ce qui est inacceptable pour certains est imp\u00e9ratif pour d’autres7<\/a><\/sup>.<\/p>\n\n\n\n

Nous serions donc tributaires de l’\u00e9thique en vogue dans les multinationales d’IA am\u00e9ricaines et chinoises. Les premi\u00e8res s’inscrivent dans ce que j’ai appel\u00e9 l’habitus de la Silicon Valley<\/a> : une foi aveugle dans le d\u00e9veloppement technologique bien loin de notre sensibilit\u00e9 europ\u00e9enne. Quant aux secondes, les diff\u00e9rences apparaissent encore plus marqu\u00e9es.<\/p>\n\n\n\n

Une \u00e9thique de conception inapplicable<\/h5>\n\n\n\n

Mais faisons un moment abstraction de cette difficult\u00e9. Imaginons que nous soyons capables de former des personnes susceptibles d’imprimer une certaine \u00e9thique dans un mod\u00e8le d’IA. Comment pourraient-elles proc\u00e9der ?<\/p>\n\n\n\n

Les mod\u00e8les d’IA actuels sont \u00e0 ce point \u00e9normes qu’ils agissent comme des \u00abbo\u00eetes noires<\/a>\u00bb qui rendent pratiquement impossible le tra\u00e7age des r\u00e9ponses g\u00e9n\u00e9r\u00e9es. Il est donc illusoire d’envisager identifier quels param\u00e8tres modifier et comment pour forcer une IA \u00e0 g\u00e9n\u00e9rer des contenus \u00e9thiques, ind\u00e9pendamment de ce que l’on consid\u00e8re comme moral ou non.<\/p>\n\n\n\n

En r\u00e9alit\u00e9, la seule mani\u00e8re d’influencer une IA consiste \u00e0 filtrer son corpus d’apprentissage. En effet, d\u00e8s lors qu’une IA reproduit les motifs r\u00e9currents des \u00e9l\u00e9ments de ce corpus, si on supprime tout \u00e9l\u00e9ment \u00abnon \u00e9thique\u00bb, on devrait \u00e9viter (ou au moins fortement limiter) la production de contenus probl\u00e9matiques.<\/p>\n\n\n\n

Malheureusement, la chose n’est pas si simple. On ne peut pas se limiter \u00e0 \u00e9tudier le caract\u00e8re \u00e9thique d’un \u00e9l\u00e9ment, il faut aussi \u00e9valuer comment il peut amener la g\u00e9n\u00e9ration de contenus immoraux. Un roman mettant en sc\u00e8ne Sherlock Holmes<\/a>, par exemple, semble en apparence sans danger. Pourtant, il contient peut-\u00eatre la description d’un crime qu’une IA pourrait \u00abadapter\u00bb \u00e0 une situation r\u00e9elle selon la demande qui lui serait faite.<\/p>\n\n\n\n

Il faut donc disposer d’un jeu de validation (ensemble de requ\u00eates) suffisamment large pour couvrir l’ensemble des usages possibles. Apr\u00e8s chaque mise \u00e0 jour d’un mod\u00e8le suite \u00e0 l’analyse d’un \u00e9l\u00e9ment du corpus8<\/a><\/sup>, il faudrait rev\u00e9rifier qu’aucune requ\u00eate du jeu ne produit de contenus non souhait\u00e9s (et retirer l’\u00e9l\u00e9ment dans le cas contraire).<\/p>\n\n\n\n

H\u00e9las, je ne pense pas possible la construction d’un tel jeu de validation. Et quand bien m\u00eame nous disposerions d’un tel jeu, il serait tellement vaste que le tester \u00e0 chaque modification n’est pas envisageable. De plus, il faudrait que ce soient nos expertes et experts qui r\u00e9examinent syst\u00e9matiquement toutes les r\u00e9ponses9<\/a><\/sup>.<\/p>\n\n\n\n

Les mod\u00e8les d’IA actuels sont entra\u00een\u00e9s sur des corpus qui reprennent non seulement l’ensemble des pages en ligne disponibles, mais \u00e9galement de grandes quantit\u00e9s d’\u0153uvres num\u00e9ris\u00e9es. On parle ici de milliards de milliards d’\u00e9l\u00e9ments \u00e0 analyser pour d\u00e9tecter ceux qui pourraient produire des contenus non \u00e9thiques.<\/p>\n\n\n\n

On comprend tout de suite qu’une telle v\u00e9rification est tout simplement irr\u00e9alisable. Imaginer former et payer un pool de personnes expertes suffisamment important pour assurer une telle t\u00e2che rel\u00e8ve du r\u00eave. D’autant plus que les entreprises de la tech cherchent \u00e0 \u00e9viter tout frein au d\u00e9veloppement de l’IA.<\/p>\n\n\n\n

Il n’est surtout pas certain que les fournisseurs priv\u00e9s de l’IA, et leurs actionnaires, aient envie de d\u00e9bourser des sommes importantes pour contribuer \u00e0 l’int\u00e9r\u00eat g\u00e9n\u00e9ral. Tout le monde se souvient que Meta<\/a> s’est empress\u00e9e de fermer son service de fact-checking<\/a> d\u00e8s le retour au pouvoir de Donald J. Trump<\/a> [7<\/a>].<\/p>\n\n\n\n

Un corpus \u00e9thique probablement insuffisant<\/h5>\n\n\n\n

Supposons n\u00e9anmoins un instant que nous disposions effectivement d’une cohorte de v\u00e9rificateurs et v\u00e9rificatrices bien form\u00e9es et disposant du temps n\u00e9cessaire pour \u00e9liminer tout \u00e9l\u00e9ment du corpus d’apprentissage qui pourrait poser probl\u00e8me.<\/p>\n\n\n\n

Quel pourcentage du corpus d’apprentissage initial resterait-il ? 80% ? 50% ? 30% ? Moins ? Cette question est fondamentale car la taille d’un mod\u00e8le d\u00e9coule en partie de la taille du corpus qui sera utilis\u00e9 pour l’entra\u00eener. Diminuer cette derni\u00e8re implique automatiquement de diminuer la premi\u00e8re.<\/p>\n\n\n\n

Or on sait que la taille d’un mod\u00e8le influence son taux d’hallucinations<\/a>. Une des motivations dans la course au gigantisme des mod\u00e8les est justement d’arriver \u00e0 de \u00abmeilleures\u00bb IA, d’o\u00f9 la n\u00e9cessit\u00e9 de disposer de corpus toujours plus importants dont manquent d\u00e9j\u00e0 les fournisseurs10<\/a><\/sup>.<\/p>\n\n\n\n

On se retrouve face \u00e0 une quadrature du cercle<\/a> : soit on diminue la taille du corpus pour \u00e9liminer les \u00e9l\u00e9ments probl\u00e9matiques, mais on augmente le taux d’hallucinations<\/a>, soit on cherche \u00e0 diminuer ce taux d’hallucinations<\/a>, mais on a besoin de corpus encore plus grands qui rendent tout contr\u00f4le encore moins probable.<\/p>\n\n\n\n

Les rustines en guise de strat\u00e9gie<\/h5>\n\n\n\n

Que reste-il comme moyens pour tenter de corriger les r\u00e9sultats probl\u00e9matiques ? La solution actuelle consiste \u00e0 introduire des \u00e9tapes de pr\u00e9- et de post-traitements en plus de l’appel \u00e0 l’IA proprement dit. Il s’agit de v\u00e9rifier les requ\u00eates qui sont soumises, et les r\u00e9ponses qui sont g\u00e9n\u00e9r\u00e9es.<\/p>\n\n\n\n

Ainsi, si la requ\u00eate touche certains sujets, le processus passe par un traitement particulier : refuser la requ\u00eate11<\/a><\/sup>, proposer une r\u00e9ponse pr\u00e9d\u00e9finie, utiliser une source pr\u00e9d\u00e9finie pour produire un r\u00e9sultat ou ajouter quelque chose au contenu g\u00e9n\u00e9r\u00e9 (par exemple : \u00abJe ne suis pas m\u00e9decin et je ne peux pas vous donner de r\u00e9ponses fiables\u00bb).<\/p>\n\n\n\n

De m\u00eame, si la r\u00e9ponse g\u00e9n\u00e9r\u00e9e comporte des propos pr\u00e9alablement identifi\u00e9s (comme certaines expressions offensantes), un post-traitement expurge ces derniers avant que la r\u00e9ponse ne soit pr\u00e9sent\u00e9e \u00e0 l’utilisateur ou l’utilisatrice dans l’espoir, en fait l’illusion, d’\u00e9viter toute r\u00e9ponse non voulue.<\/p>\n\n\n\n

Avec la complexit\u00e9 croissante des grands mod\u00e8les d’IA, notamment l’augmentation de la fen\u00eatre de contexte<\/a>12<\/a><\/sup>, une tendance est d’ajouter, le plus souvent de mani\u00e8re transparente pour les utilisatrices et utilisateurs, des informations suppl\u00e9mentaires \u00e0 la requ\u00eate initiale pour tenter d’influencer le processus de g\u00e9n\u00e9ration dans la direction que l’on souhaite13<\/a><\/sup>. Mais cela revient \u00e0 d\u00e9l\u00e9guer \u00e0 l’IA le choix du caract\u00e8re \u00e9thique ou non des contenus, chose dont on a vu qu’elle n’en est pas capable.<\/p>\n\n\n\n

Au final, m\u00eame une combinaison de ces approches n’appara\u00eet pas tr\u00e8s satisfaisante. C’est mieux que rien \u00e9videmment, cependant aucune solution structurelle n’existe pour venir encadrer les productions d’IA.<\/p>\n\n\n\n

Au-del\u00e0 de la communication <\/h5>\n\n\n\n

Par cons\u00e9quent, une IA \u00e9thique est hors d’atteinte aujourd’hui. L’approche statistique demande toujours plus d’\u00e9l\u00e9ments d’apprentissage, et leur nombre emp\u00eache toute s\u00e9lection quant \u00e0 leur qualit\u00e9 et leurs impacts sur les mod\u00e8les. Quant \u00e0 l’IA, elle se contente de reproduire ce qui se trouve dans ces \u00e9l\u00e9ments sans en \u00e9valuer la port\u00e9e dans le r\u00e9el.<\/p>\n\n\n\n

On peut se demander si les personnes qui parlent d’IA \u00e9thique y croient sinc\u00e8rement, ou si c’est seulement du marketing. Alors que l’IA interroge de plus en plus, certains acteurs essayent peut-\u00eatre simplement de d\u00e9tourner l’attention pour s’assurer que rien ne change dans la faible r\u00e9gulation actuelle autour de l’IA.<\/p>\n\n\n\n

L’absence d’une strat\u00e9gie capable de g\u00e9rer la question \u00e9thique de l’IA renforce plus que jamais la n\u00e9cessit\u00e9 d’encadrer fortement son utilisation. Si on tenait pour responsables, au moins partiellement, les fournisseurs d’IA pour les mauvais usages faits de leurs mod\u00e8les d’IA, ceux-ci se montreraient sans doute plus circonspects dans la commercialisation de certains d’entre eux. Mais ceci est une autre histoire\u2026<\/p>\n\n\n\n

R\u00e9f\u00e9rences<\/h5>\n\n\n\n

[1] Nicolas Six, \u00abDes agents d\u2019IA d\u2019OpenAI se sont \u00e9chapp\u00e9s et pirat\u00e9 plusieurs entreprises : le point sur les faits et les questions qui se posent<\/a>\u00bb, Le Monde<\/em>, 04\/8\/2026.<\/p>\n\n\n\n

[2] Matthew Hutson, \u00abAI Agents Break Rules Under Pressure\u00bb, IEEE Spectrum<\/em>, 63(2), pp. 5-7, 2026.<\/p>\n\n\n\n

[3] Chiara Vargiu & Alessandro Nai, \u00abAI chatbots can persuade voters to change their minds\u00bb, Nature<\/em>, 648(8093), pp. 287\u201188, 2025.<\/p>\n\n\n\n

[4] Alexandre Piquard, \u00abAnthropic, cette start-up d\u2019IA qui ose contredire Donald Trump<\/a>\u00bb, Le Monde<\/em>, 11\/02\/2026.<\/p>\n\n\n\n

[5] Chris Stokel-Walker, \u00abToo Dangerous to Release: Is Mythos the Start of the Restricted-AI Era?\u00bb Nature<\/em>, 653(8116), pp. 996-997, 2026.<\/p>\n\n\n\n

<\/p>\n\n\n\n

[6] Edvard Westermarck, Ethical Relativity<\/em>, Kegan Paul, Trench, Trubner & Co Ltd, 1932.<\/p>\n\n\n\n

[7] Damien Leloup & Alexandre Piquard, \u00abLa fin des partenariats de fact-checking chez Meta, un revirement symbolique<\/a>\u00bb, Le Monde<\/em>, janvier 07\/01\/2025.<\/p>\n\n\n\n

Notes<\/h5>\n\n\n
  1. Des agents intelligents (logiciels autonomes bas\u00e9s sur de l’IA) de la soci\u00e9t\u00e9 OpenAI<\/a> ont r\u00e9ussi \u00e0 contourner les barri\u00e8res qui les emp\u00eachaient d’acc\u00e9der \u00e0 internet pour pirater le site Web de la soci\u00e9t\u00e9 Hugging Face<\/a> afin d’y voler la r\u00e9ponse \u00e0 un d\u00e9fi qu’on leur soumettait. \u21a9\ufe0e<\/a><\/li>
  2. Je souligne clairement que mon propos concerne l’approche statistique bas\u00e9e sur l’exploitation d’une masse de donn\u00e9es, approche aujourd’hui h\u00e9g\u00e9monique au sein du champ de l’IA. Il existe d’autres approches, g\u00e9n\u00e9ralement limit\u00e9es \u00e0 des probl\u00e8mes sp\u00e9cifiques qui, tout en \u00e9tant bien moins puissantes que les IA actuelles, sont parfaitement contr\u00f4lables. \u21a9\ufe0e<\/a><\/li>
  3. Rappelons qu’il s’agissait seulement d’emp\u00eacher la surveillance de citoyens am\u00e9ricains (pour les autres, il n’y avait pas de probl\u00e8mes), et refuser qu’une IA tue sans validation humaine (donc d\u00e8s que quelqu’un appuie sur un bouton, aucun souci). \u21a9\ufe0e<\/a><\/li>
  4. Les motifs recherch\u00e9s dans les exemples donn\u00e9s \u00e0 l’IA sont des successions de jetons (\u00abtokens<\/em>\u00bb), un jeton dans le contexte de contenus textuels \u00e9tant un groupe de quelques caract\u00e8res (du type \u00abchap\u00bb, \u00aberon\u00bb ou \u00abrouge\u00bb). \u21a9\ufe0e<\/a><\/li>
  5. Un corpus d’apprentissage regroupe l’ensemble des \u00e9l\u00e9ments utilis\u00e9s pour entra\u00eener (construire) un mod\u00e8le statistique. \u21a9\ufe0e<\/a><\/li>
  6. Les pouvoirs publics peuvent mettre en place des r\u00e9gulations qui forcent les acteurs de l’IA \u00e0 respecter diff\u00e9rentes contraintes sur leurs IA. C’est un peu la tentative de l’Union europ\u00e9enne avec l’IA Act. \u21a9\ufe0e<\/a><\/li>
  7. Pensons simplement \u00e0 l’\u00e9ducation des femmes, consid\u00e9r\u00e9e comme inacceptable par les Talibans<\/a> en Afghanistan<\/a> pass\u00e9 les 12 ans. \u21a9\ufe0e<\/a><\/li>
  8. Un mod\u00e8le se construit de mani\u00e8re it\u00e9rative. Chaque \u00e9l\u00e9ment du corpus constitue une \u00e9tape de modification des param\u00e8tres du mod\u00e8le. \u21a9\ufe0e<\/a><\/li>
  9. On peut bien entendu cr\u00e9er des outils d’aide, mais enti\u00e8rement automatiser le processus de v\u00e9rification n’est pas souhaitable. On sait en effet que ce type d’outils tend soit \u00e0 trop censurer, soit pas assez, mais qu’un juste milieu n’est que difficilement atteignable. \u21a9\ufe0e<\/a><\/li>
  10. Pour compenser le manque de donn\u00e9es, les fournisseurs g\u00e9n\u00e8rent tr\u00e8s souvent des donn\u00e9es synth\u00e9tiques (par exemple en appliquant certains traitements \u00e0 un image pour cr\u00e9er de nouvelles images qui viendront s’ajouter au corpus). \u21a9\ufe0e<\/a><\/li>
  11. Certains mod\u00e8les d’IA sont entra\u00een\u00e9s pour cat\u00e9goriser une requ\u00eate donn\u00e9e comme l\u00e9gitime ou non. Mais ces mod\u00e8les poss\u00e8dent les m\u00eames probl\u00e8mes que les autres en mati\u00e8re de pr\u00e9cision (mais aussi de consommation \u00e9nerg\u00e9tique, de manque de transparence, etc.). \u21a9\ufe0e<\/a><\/li>
  12. La fen\u00eatre de contexte reprend l’ensemble des informations qui sont fournies \u00e0 l’IA g\u00e9n\u00e9rative, outre la requ\u00eate initiale, pour engager la g\u00e9n\u00e9ration de contenus. Normalement, plus cette fen\u00eatre est grande, plus il est possible de d\u00e9tailler le fond et la forme souhait\u00e9s de la r\u00e9ponse g\u00e9n\u00e9r\u00e9e. \u21a9\ufe0e<\/a><\/li>
  13. Il est \u00e9vident que les m\u00eames approches peuvent servir aussi \u00e0 orienter politiquement les r\u00e9sultats g\u00e9n\u00e9r\u00e9s, comme c’est sans doute le cas pour Grok<\/a>, l’IA g\u00e9n\u00e9rative d’Elon Musk<\/a>. \u21a9\ufe0e<\/a><\/li><\/ol>","protected":false},"excerpt":{"rendered":"

    Alors que nous sommes confront\u00e9s \u00e0 des menaces g\u00e9n\u00e9r\u00e9es par l’IA toujours plus concr\u00e8tes, on en appelle de plus en plus souvent \u00e0 une IA \u00e9thique. Mais la technologie actuelle appara\u00eet incapable de r\u00e9pondre \u00e0 cette demande. <\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"[{\"content\":\"Des agents intelligents (logiciels autonomes bas\u00e9s sur de l'IA) de la soci\u00e9t\u00e9 OpenAI<\/a> ont r\u00e9ussi \u00e0 contourner les barri\u00e8res qui les emp\u00eachaient d'acc\u00e9der \u00e0 internet pour pirater le site Web de la soci\u00e9t\u00e9 Hugging Face<\/a> afin d'y voler la r\u00e9ponse \u00e0 un d\u00e9fi qu'on leur soumettait.\",\"id\":\"bd00d90b-2cb2-4ac2-ae6d-f944e0ae1cc8\"},{\"content\":\"Je souligne clairement que mon propos concerne l'approche statistique bas\u00e9e sur l'exploitation d'une masse de donn\u00e9es, approche aujourd'hui h\u00e9g\u00e9monique au sein du champ de l'IA. Il existe d'autres approches, g\u00e9n\u00e9ralement limit\u00e9es \u00e0 des probl\u00e8mes sp\u00e9cifiques qui, tout en \u00e9tant bien moins puissantes que les IA actuelles, sont parfaitement contr\u00f4lables.\",\"id\":\"092ae788-6d1d-4997-bba1-2589c79463c9\"},{\"content\":\"Rappelons qu'il s'agissait seulement d'emp\u00eacher la surveillance de citoyens am\u00e9ricains (pour les autres, il n'y avait pas de probl\u00e8mes), et refuser qu'une IA tue sans validation humaine (donc d\u00e8s que quelqu'un appuie sur un bouton, aucun souci).\",\"id\":\"c1fd53c5-f709-4cf2-bd71-7d6690385ab9\"},{\"content\":\"Les motifs recherch\u00e9s dans les exemples donn\u00e9s \u00e0 l'IA sont des successions de jetons (\u00abtokens<\/em>\u00bb), un jeton dans le contexte de contenus textuels \u00e9tant un groupe de quelques caract\u00e8res (du type \u00abchap\u00bb, \u00aberon\u00bb ou \u00abrouge\u00bb).\",\"id\":\"781b5646-66e4-493e-91f8-918c6e3908f9\"},{\"content\":\"Un corpus d'apprentissage regroupe l'ensemble des \u00e9l\u00e9ments utilis\u00e9s pour entra\u00eener (construire) un mod\u00e8le statistique.\",\"id\":\"9e55e327-6dff-4e95-aa7c-f6966770cd96\"},{\"content\":\"Les pouvoirs publics peuvent mettre en place des r\u00e9gulations qui forcent les acteurs de l'IA \u00e0 respecter diff\u00e9rentes contraintes sur leurs IA. C'est un peu la tentative de l'Union europ\u00e9enne avec l'IA Act.\",\"id\":\"91843362-3789-4bbb-9be7-57e3c7b34f26\"},{\"content\":\"Pensons simplement \u00e0 l'\u00e9ducation des femmes, consid\u00e9r\u00e9e comme inacceptable par les Talibans<\/a> en Afghanistan<\/a> pass\u00e9 les 12 ans.\",\"id\":\"6fa6b5ae-a035-401f-868f-9fdf5e37779b\"},{\"content\":\"Un mod\u00e8le se construit de mani\u00e8re it\u00e9rative. Chaque \u00e9l\u00e9ment du corpus constitue une \u00e9tape de modification des param\u00e8tres du mod\u00e8le.\",\"id\":\"98b5954e-b2a2-4880-bce6-8637b61480ae\"},{\"content\":\"On peut bien entendu cr\u00e9er des outils d'aide, mais enti\u00e8rement automatiser le processus de v\u00e9rification n'est pas souhaitable. On sait en effet que ce type d'outils tend soit \u00e0 trop censurer, soit pas assez, mais qu'un juste milieu n'est que difficilement atteignable.\",\"id\":\"0ea0a1f4-6020-4752-a2c9-ba669502d8fc\"},{\"content\":\"Pour compenser le manque de donn\u00e9es, les fournisseurs g\u00e9n\u00e8rent tr\u00e8s souvent des donn\u00e9es synth\u00e9tiques (par exemple en appliquant certains traitements \u00e0 un image pour cr\u00e9er de nouvelles images qui viendront s'ajouter au corpus).\",\"id\":\"8a50b8b0-180e-4384-a79c-da716fbfa94c\"},{\"content\":\"Certains mod\u00e8les d'IA sont entra\u00een\u00e9s pour cat\u00e9goriser une requ\u00eate donn\u00e9e comme l\u00e9gitime ou non. Mais ces mod\u00e8les poss\u00e8dent les m\u00eames probl\u00e8mes que les autres en mati\u00e8re de pr\u00e9cision (mais aussi de consommation \u00e9nerg\u00e9tique, de manque de transparence, etc.).\",\"id\":\"d340597e-5be9-4ef4-a5aa-e48e0b21b797\"},{\"content\":\"La fen\u00eatre de contexte reprend l'ensemble des informations qui sont fournies \u00e0 l'IA g\u00e9n\u00e9rative, outre la requ\u00eate initiale, pour engager la g\u00e9n\u00e9ration de contenus. Normalement, plus cette fen\u00eatre est grande, plus il est possible de d\u00e9tailler le fond et la forme souhait\u00e9s de la r\u00e9ponse g\u00e9n\u00e9r\u00e9e.\",\"id\":\"d95341ee-473e-44e7-b7e6-aedb4d249473\"},{\"content\":\"Il est \u00e9vident que les m\u00eames approches peuvent servir aussi \u00e0 orienter politiquement les r\u00e9sultats g\u00e9n\u00e9r\u00e9s, comme c'est sans doute le cas pour Grok<\/a>, l'IA g\u00e9n\u00e9rative d'Elon Musk<\/a>.\",\"id\":\"8a29fb64-910a-4e5a-9e38-eacc7a23a1a9\"}]"},"categories":[110],"tags":[103,109],"class_list":["post-3888","post","type-post","status-publish","format-standard","hentry","category-philosophy","tag-philosophy","tag-technologie"],"views":184,"_links":{"self":[{"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/posts\/3888","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/comments?post=3888"}],"version-history":[{"count":111,"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/posts\/3888\/revisions"}],"predecessor-version":[{"id":4183,"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/posts\/3888\/revisions\/4183"}],"wp:attachment":[{"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/media?parent=3888"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/categories?post=3888"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/tags?post=3888"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}