{"id":3609,"date":"2026-06-20T13:48:38","date_gmt":"2026-06-20T11:48:38","guid":{"rendered":"https:\/\/www.francq.info\/?p=3609"},"modified":"2026-06-20T13:48:39","modified_gmt":"2026-06-20T11:48:39","slug":"2026-06","status":"publish","type":"post","link":"https:\/\/www.francq.info\/index.php\/blog\/2026-06\/","title":{"rendered":"L’IA, notre ultime risque existentiel ?"},"content":{"rendered":"\n

Depuis quelques mois, de plus en plus r\u00e9guli\u00e8rement, des fournisseurs d’IA annoncent ne pas mettre \u00e0 disposition leurs mod\u00e8les, ou du moins les versions r\u00e9centes les plus compl\u00e8tes [1<\/a>]. Le cas le plus m\u00e9diatique est l’annonce d’Anthropic<\/a>1<\/a><\/sup> concernant la derni\u00e8re version de son mod\u00e8le Claude<\/a><\/em>, capable de d\u00e9tecter tellement de failles informatiques qu’il mettrait tout l’internet en danger s’il tombait entre de mauvaises mains [2<\/a>].<\/p>\n\n\n\n

Toutes ces d\u00e9clarations relancent la question du danger repr\u00e9sent\u00e9 par l’IA pour l’humanit\u00e9. Du sp\u00e9cialiste de l’IA et r\u00e9cipiendaire du prix Turing<\/a> Yoshua Bengio<\/a> au pape L\u00e9on XIV<\/a> [3<\/a>, 4<\/a>], de nombreuses personnalit\u00e9s mettent en garde contre les dangers de l’IA. Elles en appellent au contr\u00f4le strict de l’IA au sein de nos soci\u00e9t\u00e9s.<\/p>\n\n\n\n

Il faut reconna\u00eetre que les exemples d’IA se comportant de mani\u00e8re dysfonctionnelle se multiplient, m\u00eame si les effets qui en d\u00e9coulent restent encore limit\u00e9s. Mais la crainte de plus en souvent mise en avant est celle d’une IA s’\u00e9chappant d’un environnement contr\u00f4l\u00e9 pour s’autonomiser des humains2<\/a><\/sup>, un sc\u00e9nario digne de Hollywood<\/a>.<\/p>\n\n\n\n

Les principaux responsables des gros mod\u00e8les3<\/a><\/sup> d’IA ne sont pas les derniers \u00e0 crier au loup. Certains demandent aux autorit\u00e9s d’anticiper cette fin soi-disante in\u00e9luctable, se d\u00e9douanant au passage de toute responsabilit\u00e9 dans cette \u00e9volution tant redout\u00e9e.<\/p>\n\n\n\n

Sommes-nous r\u00e9ellement \u00e0 ce point au bord du pr\u00e9cipice ? Une IA pourrait-elle vraiment s’en prendre aux humains, voire programmer l’extinction de l’humanit\u00e9 ? Comme souvent, la r\u00e9alit\u00e9 est plus subtile, et la distance entre possibilit\u00e9s actuelles et anticip\u00e9es est plus grande que celle fantasm\u00e9e.<\/p>\n\n\n\n

Une IA diabolique ?<\/h5>\n\n\n\n

Les recherches scientifiques montrant que l’IA se conduit de mani\u00e8re non \u00e9thique foisonnent ces derniers temps. Il ne s’agit pas seulement de potentialit\u00e9s nouvelles, comme pour le mod\u00e8le d’Anthropic<\/a>, mais de comportements non \u00e9thiques r\u00e9sultant d’un simple usage des mod\u00e8les existants4<\/a><\/sup>.<\/p>\n\n\n\n

Diff\u00e9rentes \u00e9tudes soulignent, par exemple, que des agents intelligents<\/a>5<\/a><\/sup> peuvent adopter des strat\u00e9gies malveillantes, comme faire chanter des \u00eatres humains ou mentir \u00e0 d’autres qui sont en position de faiblesse [5<\/a>, 6<\/a>]. De m\u00eame, une recherche indique que des mod\u00e8les d’IA n’h\u00e9sitent pas \u00e0 inventer des donn\u00e9es pour soutenir des hypoth\u00e8ses scientifiques [7<\/a>]. En r\u00e9alit\u00e9, ce type de cas prolif\u00e8re.<\/p>\n\n\n\n

\u00c0 ceux qui se disent qu’il suffit de les \u00abd\u00e9brancher\u00bb, des chercheurs montrent que certains mod\u00e8les d’IA, s’ils trouvent un script6<\/a><\/sup> visant \u00e0 les remplacer, g\u00e9n\u00e8rent des instructions qui l’emp\u00eachent, g\u00e9n\u00e9ralement en tentant de le d\u00e9truire [8<\/a>].<\/p>\n\n\n\n

Sachant que l’IA peut faire changer d’avis politiques des humains qui ont une conversation avec elle [9<\/a>], elle pourrait pousser des humains \u00e0 adopter des comportements n\u00e9fastes pour leur propre existence 7<\/a><\/sup>. Le nombre de suicides apr\u00e8s des discussions avec un agent conversationnel<\/a> nous le rappelle cruellement.<\/p>\n\n\n\n

L’IA n’est qu’une repr\u00e9sentation des humains<\/h5>\n\n\n\n

En fait, rien de tr\u00e8s surprenant. Les IA actuelles sont optimis\u00e9es pour reproduire les exemples qu’on leur fournit. D\u00e8s lors que leurs corpus d’apprentissage contiennent d’innombrables chroniques historiques et romans en tout genre, les mod\u00e8les apprennent \u00e0 g\u00e9n\u00e9rer des r\u00e9ponses identiques lorsqu’ils sont confront\u00e9s \u00e0 des descriptions de situations identiques.<\/p>\n\n\n\n

Or ces corpus se composent tous de contenus cr\u00e9\u00e9s par des humains8<\/a><\/sup>. Donc tous les comportements humains se retrouvent quelque part au c\u0153ur des mod\u00e8les. Malheureusement nous savons que les biais, le harc\u00e8lement, le mensonge et les agressions constituent des comportements quotidiens pour quantit\u00e9 d’humains, m\u00eame les plus \u00abordinaires\u00bb.<\/p>\n\n\n\n

D\u00e8s lors que l’IA s’inspire, pour produire ses r\u00e9sultats, d’une masse d’exemples du type \u00abdans une situation donn\u00e9e, on peut faire \u00e7a\u00bb trouv\u00e9s dans son corpus d’apprentissage, elle reproduit de facto<\/em> des comportements adopt\u00e9s ou imagin\u00e9s par des humains. <\/p>\n\n\n\n

Mais comme elle ne dispose d’aucune notion \u00e9thique, elle se retrouve incapable d’\u00e9valuer ce qui est \u00abbien ou mal\u00bb9<\/a><\/sup>. De m\u00eame, son manque de sens commun<\/a> l’emp\u00eache de distinguer fiction et r\u00e9alit\u00e9. En pratique, elle choisit des strat\u00e9gies uniquement sur la base de son \u00e9valuation de leurs chances de r\u00e9ussite10<\/a><\/sup>.<\/p>\n\n\n\n

Les limites des environnements d’ex\u00e9cution<\/h5>\n\n\n\n

Est-ce \u00e0 dire que des \u0153uvres comme Terminator<\/a><\/em> ou la saga Matrix<\/a><\/em> ne rel\u00e8vent plus de la science-fiction, mais s’av\u00e8rent \u00eatre des sc\u00e9narios d’anticipation ? Des mod\u00e8les pourraient-ils \u00e9chapper au contr\u00f4le de celles et ceux qui les ont con\u00e7us et d\u00e9fier le monde ?<\/p>\n\n\n\n

En fait, depuis toujours, des logiciels<\/a> s’attaquent aux humains, le plus souvent d’ailleurs par simple n\u00e9gligence. Ainsi, toute personne ayant programm\u00e9 un ordinateur a, au moins une fois dans sa vie, d\u00e9truit certaines donn\u00e9es par erreur de programmation. Reste que les d\u00e9g\u00e2ts sont g\u00e9n\u00e9ralement limit\u00e9s (surtout quand on dispose de sauvegardes<\/a> r\u00e9guli\u00e8res).<\/p>\n\n\n\n

Des programmes informatiques<\/a> cr\u00e9ant des dommages \u00e0 grande \u00e9chelle existent depuis longtemps aussi. D\u00e8s 1982, le virus informatique<\/a> Elk Cloner<\/em> infecte les ordinateurs Apple II via des disquettes [10<\/a>]. Avec l’arriv\u00e9e d’internet et l’interconnexion des ordinateurs, la propagation de logiciels malveillants<\/a> et de failles de s\u00e9curit\u00e9<\/a> se multiplie.<\/p>\n\n\n\n

Bien entendu, l’IA aujourd’hui repr\u00e9sente une menace d’une tout autre nature. Sans entrer dans le d\u00e9bat sur l’intelligence r\u00e9elle de l’IA, les possibilit\u00e9s qu’elle offre d\u00e9passent \u00e9videmment largement ce que les logiciels malveillants<\/a> d’hier pouvaient faire. Et ses d\u00e9g\u00e2ts potentiels surpassent bien entendu ceux existants.<\/p>\n\n\n\n

Les limites des mod\u00e8les<\/h5>\n\n\n\n

Mais quand on dit \u00abl’IA va d\u00e9truire le monde\u00bb, de quelle IA parle-t-on ?<\/p>\n\n\n\n

Si on pense aux grosses IA comme ChatGPT<\/a><\/em>, Claude<\/a><\/em> ou encore Gemini<\/a><\/em>, celles-ci n’existent que dans d’\u00e9normes fermes serveurs<\/a> o\u00f9 les interactions avec l’ext\u00e9rieur sont contr\u00f4l\u00e9es par des filtres en amont et en aval11<\/a><\/sup>. Ces IA ne sont donc pas reli\u00e9es directement au monde ext\u00e9rieur.<\/p>\n\n\n\n

Certes, on peut installer sur un ordinateur un logiciel<\/a> qui utilisent une \u00abgrosse\u00bb IA pour g\u00e9n\u00e9rer une s\u00e9rie d’actions qui, si elles \u00e9taient ex\u00e9cut\u00e9es, pourraient causer des d\u00e9g\u00e2ts (pour autant que ce logiciel<\/a> dispose des bons droits d’acc\u00e8s). Cependant, la \u00abgrosse\u00bb IA n’est pas en prise directe avec le monde et r\u00e9pond avant tout \u00e0 une sollicitation ext\u00e9rieure, f\u00fbt-elle automatis\u00e9e.<\/p>\n\n\n\n

Quant aux \u00abpetits\u00bb mod\u00e8les, leurs possibilit\u00e9s actuelles restent encore limit\u00e9es. Soit ils sont construits par simplification12<\/a><\/sup> d’une grosse IA existante, mais au prix de potentialit\u00e9s nettement moindres; soit ils sont sp\u00e9cialis\u00e9s pour des t\u00e2ches tr\u00e8s particuli\u00e8res, et donc incapables de dominer le monde.<\/p>\n\n\n\n

Les limites des infrastructures<\/h5>\n\n\n\n

De plus, quel que soit la puissance indiscutable des gros mod\u00e8les actuels, leur capacit\u00e9 \u00e0 prendre en compte, m\u00eame partiellement, un syst\u00e8me aussi complexe que le monde humain reste hors d’atteinte pour le moment.<\/p>\n\n\n\n

Au bout du compte, un mod\u00e8le d’IA se r\u00e9sume toujours \u00e0 un calcul, certes ultra-complexe pour les plus gros d’entre eux, qui mobilise un certain nombre de param\u00e8tres d’entr\u00e9e (par exemple le prompt d’un internaute et l’historique de ses conversations r\u00e9centes) pour produire en sortie un r\u00e9sultat repr\u00e9sent\u00e9 par un autre nombre de param\u00e8tres (tels la cat\u00e9gorie \u00e0 laquelle une image appartient).<\/p>\n\n\n\n

Or m\u00eame les plus gros mod\u00e8les disposent d’un nombre limit\u00e9 de param\u00e8tres d’entr\u00e9es13<\/a><\/sup>. Si celui-ci est suffisant pour faire des choses aussi incroyables que r\u00e9sumer et traduire un document ou cr\u00e9er une image \u00ab\u00e0 la Picasso\u00bb, il reste insuffisant pour coder une repr\u00e9sentation, m\u00eame ultra-simplifi\u00e9e, du monde.<\/p>\n\n\n\n

Si les fournisseurs d’IA augmentent toujours la taille de leurs mod\u00e8les, seule voie possible \u00e0 leurs yeux pour en am\u00e9liorer les capacit\u00e9s, atteindre des tailles suffisantes pour mod\u00e9liser le monde, condition n\u00e9cessaire pour qu’une IA puisse le contr\u00f4ler, reste hypoth\u00e9tique. Cela suppose en effet une puissance de calcul qui implique des co\u00fbts fixes (processeurs<\/a>) et variables (principalement pour l’\u00e9nergie) bien au-del\u00e0 de ce qui est mobilisable aujourd’hui.<\/p>\n\n\n\n

Du coup, quand bien m\u00eame une IA suffisamment \u00abintelligente\u00bb pourrait th\u00e9oriquement \u00e9tablir une strat\u00e9gie g\u00e9n\u00e9rale, g\u00e9n\u00e9rer des logiciels malveillants<\/a> pour les millions de processeurs<\/a> impliqu\u00e9s dans nos vies (r\u00e9seaux \u00e9lectriques, banques, transports, cha\u00eenes d’approvisionnement, etc.) et contourner les protections pour les installer, la probabilit\u00e9 que cela arrive sous peu para\u00eet infinit\u00e9simale.<\/p>\n\n\n\n

Une diversion organis\u00e9e ?<\/h5>\n\n\n\n

On peut d\u00e8s lors s’interroger sur la focalisation de notre attention sur une issue qui rel\u00e8ve pour l’instant de la pure sp\u00e9culation. Au-del\u00e0 de la peur l\u00e9gitime des cons\u00e9quences de l’IA moderne, en cristallisant cette peur autour d’un sc\u00e9nario cataclysmique futur, certains acteurs organisent peut-\u00eatre une diversion pour qu’on s’int\u00e9resse moins aux cons\u00e9quences d\u00e9sastreuses d\u00e9j\u00e0 bien r\u00e9elles aujourd’hui.<\/p>\n\n\n\n

Comme je l’expliquais dans un pr\u00e9c\u00e9dent billet<\/a>, les fournisseurs d’IA se trouvent pour le moment largement d\u00e9douan\u00e9s des usages dangereux que l’on peut faire de leurs mod\u00e8les. Une situation bien confortable pour continuer la course au gigantisme sans ce soucier de ses cons\u00e9quences. D\u00e9tourner l’attention vers un \u00e9norme danger potentiel permet avant tout de ne pas entraver cette course.<\/p>\n\n\n\n

On \u00e9vite aussi de discuter de la destruction possiblement massive d’emplois devenus obsol\u00e8tes avec l’IA. Et m\u00eame si la cr\u00e9ation future d’emplois nouveaux viendrait \u00e0 terme compenser ces pertes \u2014 perspective qui, pour le moment, ne pointe pas le bout de son nez \u2014 comment g\u00e9rer la p\u00e9riode de transition ? Que se passera-t-il pour les millions de personnes qui seront remplac\u00e9es par une IA (robotis\u00e9e ou non) et priv\u00e9es de toute qualification pertinente ?<\/p>\n\n\n\n

Sans attendre une gigantesque IA capable de repr\u00e9senter le monde, les IA actuelles participent d’ores et d\u00e9j\u00e0 \u00e0 la destruction de notre plan\u00e8te par leur soif \u00e9nerg\u00e9tique. Alors que nous savons qu’une plus grande frugalit\u00e9 est indispensable pour la sauver, est-ce vraiment raisonnable de continuer \u00e0 construire des mod\u00e8les toujours plus gros ?<\/p>\n\n\n\n

Enfin, comme le rappelait mon dernier billet<\/a>, les grandes puissances voient en l’IA un outil pour accro\u00eetre leur domination militaire (tout en surveillant toujours plus de citoyens et de citoyennes). Dans un monde o\u00f9 seule la force s’impose d\u00e9sormais dans les relations g\u00e9ostrat\u00e9giques, le contr\u00f4le sur l’IA par les \u00c9tats devient une arme. Les \u00c9tats-Unis viennent de le rappeler en bloquant l’usage du dernier mod\u00e8le d’Anthropic<\/a> pour leurs non-ressortissants [11<\/a>].<\/p>\n\n\n\n

Conclusions<\/h5>\n\n\n\n

Dans se contexte, il me semble urgent de se concentrer sur les probl\u00e8mes g\u00e9n\u00e9r\u00e9s par l’IA aujourd’hui et ici. Cela passe par une r\u00e9gulation plus forte des quelques acteurs capables de d\u00e9ployer des grosses IA. Et, comme pour l’armement nucl\u00e9aire, une r\u00e9gulation internationale serait bien plus b\u00e9n\u00e9fique \u00e0 toutes les nations qu’une vaine course au gigantisme.<\/p>\n\n\n\n

Une telle r\u00e9gulation rendrait aussi bien plus compliqu\u00e9 l’av\u00e8nement d’un sc\u00e9nario catastrophe. Si elle \u00e9tait combin\u00e9e \u00e0 des investissements s\u00e9rieux dans la s\u00e9curit\u00e9 informatique14<\/a><\/sup> \u2014 un probl\u00e8me r\u00e9current pour les institutions publiques et priv\u00e9es \u2014 la possibilit\u00e9 de prise de contr\u00f4le total par une IA (ou par un acteur r\u00e9el d’ailleurs) deviendrait encore plus faible.<\/p>\n\n\n\n

Homo sapiens<\/em> se prend pour Dieu jusqu’au moment o\u00f9 il se souvient qu’il est mortel. Du nucl\u00e9aire \u00e0 la manipulation g\u00e9n\u00e9tique, l’humanit\u00e9 n’a de cesse de d\u00e9velopper des technologies qui repr\u00e9sentent autant d’occasions de la faire dispara\u00eetre de la surface de la Terre. D\u00e9cid\u00e9ment, nous avons beaucoup de mal \u00e0 retenir les enseignements du pass\u00e9. Mais ceci est une autre histoire\u2026<\/p>\n\n\n\n

R\u00e9f\u00e9rences<\/h5>\n\n\n\n

[1] Chris Stokel-Walker, \u00abToo Dangerous to Release: Is Mythos the Start of the Restricted-AI Era?\u00bb Nature<\/em>, 653(8116), pp. 996-997, 2026.<\/p>\n\n\n\n

[2 ]Martin Untersinger, \u00abAnthropic restreint le lancement de son dernier mod\u00e8le d\u2019IA pour pr\u00e9venir les risques de cyberattaque<\/a>\u00bb, Le Monde<\/em>, avril 08\/04\/2026.<\/p>\n\n\n\n

[3] Arnaud Leparmentier, \u00abYoshua Bengio, chercheur en IA : \u201cL\u2019Europe doit se r\u00e9veiller. Ce n\u2019est pas suffisant de r\u00e9glementer\u201d\u00bb, Le Monde<\/em>, 23\/01\/2026.<\/p>\n\n\n\n

[4] Matheo Malik, \u00ab Magnifica Humanitas, texte int\u00e9gral de l\u2019Encyclique de L\u00e9on XIV<\/a> \u00bb, Le Grand Continent<\/em>, 25\/05\/2026.<\/p>\n\n\n\n

[5] Matthew Hutson, \u00abAI Agents Break Rules Under Pressure\u00bb, IEEE Spectrum<\/em>, 63(2), pp. 5\u20117, 2026.<\/p>\n\n\n\n

[6] Anthropic, \u00abSystem Card: Claude Opus 4.6<\/em>\u00bb, Rapport, 2026<\/p>\n\n\n\n

[7] Miryam Naddaf, \u00abChatGPT Generates Fake Data Set to Support Scientific Hypothesis\u00bb, Nature<\/em>, 623(7989), pp. 895\u201196, 203.<\/p>\n\n\n\n

[8] Jeremy Schlatter, Benjamin Weinstein-Raun & Jeffrey Ladish, \u00abIncomplete Tasks Induce Shutdown Resistance in Some Frontier LLMs\u00bb, arXiv:2509.14260, 2026.<\/p>\n\n\n\n

[9] Chiara Vargiu & Alessandro Nai, \u00abAI Chatbots Can Persuade Voters to Change Their Minds\u00bb, Nature<\/em>, 648(8093), pp. 287\u201188, 2025.<\/p>\n\n\n\n

[10] Kim Zetter, \u00abNov. 10, 1983: Computer \u201cVirus\u201d Is Born\u00bb, Wired<\/em>, 2009.<\/p>\n\n\n\n

[11] Alexandre Piquard, \u00ab\u201cLa guerre de l\u2019IA a commenc\u00e9\u201d : le blocage du dernier mod\u00e8le d\u2019Anthropic par les Etats-Unis inqui\u00e8te en France et en Europe<\/a>\u00bb, Le Monde<\/em>, juin 14\/06\/2024.<\/p>\n\n\n\n

Notes<\/h5>\n\n\n
  1. Il convient de noter qu’Anthropic<\/a> n’a pas r\u00e9ellement apport\u00e9 de preuves de ce qu’elle avan\u00e7ait, de sorte que certains se demandent si la publicit\u00e9 re\u00e7ue \u00e0 la suite de cette annonce n’\u00e9tait pas l’objectif premier, quitte \u00e0 embellir quelque peu les capacit\u00e9s de son nouveau mod\u00e8le. \u21a9\ufe0e<\/a><\/li>
  2. La question de savoir si l’IA est consciente ou non de ce qu’elle fait ne joue aucun r\u00f4le dans la nature des dangers qu’elle peut repr\u00e9senter pour l’humanit\u00e9 (m\u00eame si pour ma part, \u00e0 ce stade, je me garderai bien de parler de conscience ou d’intelligence). Un guerre nucl\u00e9aire peut annihiler l’esp\u00e8ce humaine sans n\u00e9cessiter une volont\u00e9 pr\u00e9alable des atomes de plutonium, d’uranium ou d’hydrog\u00e8ne. \u21a9\ufe0e<\/a><\/li>
  3. La taille d’un mod\u00e8le d’IA se traduit par le nombre de param\u00e8tres qui le composent (d’un milliard pour les petits \u00e0 plusieurs milliers de milliards pour les plus gros). En th\u00e9orie, les capacit\u00e9s de g\u00e9n\u00e9ralisation d’un mod\u00e8le augmentent avec le nombre de param\u00e8tres. \u21a9\ufe0e<\/a><\/li>
  4. J’insiste une fois encore sur le fait qu’il ne s’agit pas de pr\u00e9tendre qu’une IA \u00abveut\u00bb se comporter de telle ou telle mani\u00e8re, mais que les interactions entre les contenus qu’elle g\u00e9n\u00e8re et le monde r\u00e9el peuvent engendrer des cons\u00e9quences n\u00e9fastes. \u21a9\ufe0e<\/a><\/li>
  5. Un agent intelligent<\/a> est un logiciel capable de fonctionner de mani\u00e8re autonome dans un cadre donn\u00e9. Un exemple simple est celui d’un agent qui consulterait diff\u00e9rentes sources en ligne pour produire ensuite un r\u00e9sum\u00e9 \u00e0 destination d’un utilisateur ou d’une utilisatrice. \u21a9\ufe0e<\/a><\/li>
  6. Un script est un programme informatique qui est directement interpr\u00e9t\u00e9 \u00e0 partir de son code source<\/a>, sans passer par une \u00e9tape de compilation<\/a> qui le traduit en format binaire. \u21a9\ufe0e<\/a><\/li>
  7. Il y a d\u00e9j\u00e0 suffisamment d’humains qui veulent d\u00e9ployer l’IA partout pour que cette derni\u00e8re ne soit pas vraiment oblig\u00e9e, pour le moment, de mener des campagnes d’influence en ce sens. \u21a9\ufe0e<\/a><\/li>
  8. Les corpus d’apprentissage contiennent \u00e9videmment des donn\u00e9es g\u00e9n\u00e9r\u00e9es par ordinateur. Mais celles-ci s’obtiennent soit par transformation de donn\u00e9es existantes, soit sont g\u00e9n\u00e9r\u00e9es \u00e0 partir d’un mod\u00e8le ant\u00e9rieur bas\u00e9 sur un corpus ant\u00e9rieur. Au final, ce sont donc bien des contenus humains qui alimentent l’IA. \u21a9\ufe0e<\/a><\/li>
  9. Bien entendu une \u00e9thique s’inscrit toujours dans une \u00e9poque et un lieu. Mon point ici est qu’une IA n’a aucune incarnation dans le r\u00e9el, et ne peut donc pas se projeter dans celui-ci ni \u00e9valuer l’impact concret des actions qu’elle engendre. \u21a9\ufe0e<\/a><\/li>
  10. Une IA pourrait donc adopter une strat\u00e9gie d\u00e9crite dans des romans si ceux-ci racontent que cette strat\u00e9gie r\u00e9ussit. \u21a9\ufe0e<\/a><\/li>
  11. Les internautes n’interagissent jamais directement avec une \u00abgrosse\u00bb IA. Les prompts envoy\u00e9s sont d’abord filtr\u00e9s avant d’\u00eatre pr\u00e9sent\u00e9s \u00e0 l’IA, puis les r\u00e9sultats de cette derni\u00e8re sont filtr\u00e9s avant d’\u00eatre propos\u00e9s aux internautes. M\u00eame si ces filtres sont largement insuffisants, ils limitent n\u00e9anmoins les \u00abgrosses\u00bb IA. \u21a9\ufe0e<\/a><\/li>
  12. Plusieurs techniques existent mais le principe reste le m\u00eame : r\u00e9duire le nombre de param\u00e8tres (et leur pr\u00e9cision) en tentant de limiter au maximum la d\u00e9gradation des performances sur une s\u00e9rie de t\u00e2ches donn\u00e9es. \u21a9\ufe0e<\/a><\/li>
  13. Les gros mod\u00e8les d’IA g\u00e9n\u00e9rative travaillent sur base d’une fen\u00eatre de contexte<\/a> de moins de deux millions de jetons<\/a> (c’est-\u00e0-dire de bouts de mots ou de signes de ponctuation). \u21a9\ufe0e<\/a><\/li>
  14. Il s’agit non seulement de mieux s\u00e9curiser les serveurs et les infrastructures existantes, mais aussi de s’interroger sur l’\u00e9tanch\u00e9it\u00e9 des diff\u00e9rents r\u00e9seaux informatiques. M\u00eame si cela implique des co\u00fbts suppl\u00e9mentaires, les infrastructures critiques devraient toujours disposer de r\u00e9seaux physiques propres. \u21a9\ufe0e<\/a><\/li><\/ol>","protected":false},"excerpt":{"rendered":"

    Les d\u00e9rives de l’IA se multipliant, de plus en plus de personnes craignent que cette derni\u00e8re puisse s’\u00e9chapper \u00e0 notre contr\u00f4le et nous d\u00e9truire. Une crainte qui m\u00e9rite une remise en contexte.<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"[{\"content\":\"Il convient de noter qu'Anthropic<\/a> n'a pas r\u00e9ellement apport\u00e9 de preuves de ce qu'elle avan\u00e7ait, de sorte que certains se demandent si la publicit\u00e9 re\u00e7ue \u00e0 la suite de cette annonce n'\u00e9tait pas l'objectif premier, quitte \u00e0 embellir quelque peu les capacit\u00e9s de son nouveau mod\u00e8le.\",\"id\":\"7e5fd75a-0fdd-477d-bedc-e168e3c9d855\"},{\"content\":\"La question de savoir si l'IA est consciente ou non de ce qu'elle fait ne joue aucun r\u00f4le dans la nature des dangers qu'elle peut repr\u00e9senter pour l'humanit\u00e9 (m\u00eame si pour ma part, \u00e0 ce stade, je me garderai bien de parler de conscience ou d'intelligence). Un guerre nucl\u00e9aire peut annihiler l'esp\u00e8ce humaine sans n\u00e9cessiter une volont\u00e9 pr\u00e9alable des atomes de plutonium, d'uranium ou d'hydrog\u00e8ne.\",\"id\":\"e606cd1a-b0c7-4c61-b8e9-1ed49e8afe6b\"},{\"content\":\"La taille d'un mod\u00e8le d'IA se traduit par le nombre de param\u00e8tres qui le composent (d'un milliard pour les petits \u00e0 plusieurs milliers de milliards pour les plus gros). En th\u00e9orie, les capacit\u00e9s de g\u00e9n\u00e9ralisation d'un mod\u00e8le augmentent avec le nombre de param\u00e8tres.\",\"id\":\"3b9c944b-772e-42e3-ac24-6c264d25e0f4\"},{\"content\":\"J'insiste une fois encore sur le fait qu'il ne s'agit pas de pr\u00e9tendre qu'une IA \u00abveut\u00bb se comporter de telle ou telle mani\u00e8re, mais que les interactions entre les contenus qu'elle g\u00e9n\u00e8re et le monde r\u00e9el peuvent engendrer des cons\u00e9quences n\u00e9fastes.\",\"id\":\"0d24140b-80d5-4235-82b9-8c737373f69d\"},{\"content\":\"Un agent intelligent<\/a> est un logiciel capable de fonctionner de mani\u00e8re autonome dans un cadre donn\u00e9. Un exemple simple est celui d'un agent qui consulterait diff\u00e9rentes sources en ligne pour produire ensuite un r\u00e9sum\u00e9 \u00e0 destination d'un utilisateur ou d'une utilisatrice.\",\"id\":\"bf4c2e83-6d54-4b43-8ed2-c13c24e1b1ab\"},{\"content\":\"Un script est un programme informatique qui est directement interpr\u00e9t\u00e9 \u00e0 partir de son code source<\/a>, sans passer par une \u00e9tape de compilation<\/a> qui le traduit en format binaire.\",\"id\":\"f3ddf332-11ec-475a-a7c9-4b2f9d6411bf\"},{\"content\":\"Il y a d\u00e9j\u00e0 suffisamment d'humains qui veulent d\u00e9ployer l'IA partout pour que cette derni\u00e8re ne soit pas vraiment oblig\u00e9e, pour le moment, de mener des campagnes d'influence en ce sens.\",\"id\":\"5c16975d-e131-4182-823d-48ff8cb6212f\"},{\"content\":\"Les corpus d'apprentissage contiennent \u00e9videmment des donn\u00e9es g\u00e9n\u00e9r\u00e9es par ordinateur. Mais celles-ci s'obtiennent soit par transformation de donn\u00e9es existantes, soit sont g\u00e9n\u00e9r\u00e9es \u00e0 partir d'un mod\u00e8le ant\u00e9rieur bas\u00e9 sur un corpus ant\u00e9rieur. Au final, ce sont donc bien des contenus humains qui alimentent l'IA.\",\"id\":\"2be8e863-8076-4abc-913a-7da09631f665\"},{\"content\":\"Bien entendu une \u00e9thique s'inscrit toujours dans une \u00e9poque et un lieu. Mon point ici est qu'une IA n'a aucune incarnation dans le r\u00e9el, et ne peut donc pas se projeter dans celui-ci ni \u00e9valuer l'impact concret des actions qu'elle engendre.\",\"id\":\"97a6ac00-fdc3-4035-a2f3-0854d4360b25\"},{\"content\":\"Une IA pourrait donc adopter une strat\u00e9gie d\u00e9crite dans des romans si ceux-ci racontent que cette strat\u00e9gie r\u00e9ussit.\",\"id\":\"aec87e9f-cee5-4561-a8d8-3c71016b85df\"},{\"content\":\"Les internautes n'interagissent jamais directement avec une \u00abgrosse\u00bb IA. Les prompts envoy\u00e9s sont d'abord filtr\u00e9s avant d'\u00eatre pr\u00e9sent\u00e9s \u00e0 l'IA, puis les r\u00e9sultats de cette derni\u00e8re sont filtr\u00e9s avant d'\u00eatre propos\u00e9s aux internautes. M\u00eame si ces filtres sont largement insuffisants, ils limitent n\u00e9anmoins les \u00abgrosses\u00bb IA.\",\"id\":\"e615e274-320b-492f-88a9-dbb07f261f03\"},{\"content\":\"Plusieurs techniques existent mais le principe reste le m\u00eame : r\u00e9duire le nombre de param\u00e8tres (et leur pr\u00e9cision) en tentant de limiter au maximum la d\u00e9gradation des performances sur une s\u00e9rie de t\u00e2ches donn\u00e9es.\",\"id\":\"bcce71cb-ec5d-4e0c-bc1b-e499e260d6ff\"},{\"content\":\"Les gros mod\u00e8les d'IA g\u00e9n\u00e9rative travaillent sur base d'une fen\u00eatre de contexte<\/a> de moins de deux millions de jetons<\/a> (c'est-\u00e0-dire de bouts de mots ou de signes de ponctuation).\",\"id\":\"107bcf5e-49a0-4826-a587-c1cf075c10b8\"},{\"content\":\"Il s'agit non seulement de mieux s\u00e9curiser les serveurs et les infrastructures existantes, mais aussi de s'interroger sur l'\u00e9tanch\u00e9it\u00e9 des diff\u00e9rents r\u00e9seaux informatiques. M\u00eame si cela implique des co\u00fbts suppl\u00e9mentaires, les infrastructures critiques devraient toujours disposer de r\u00e9seaux physiques propres.\",\"id\":\"de84646f-eb64-49fc-b20a-54c4ee5c3159\"}]"},"categories":[2],"tags":[98,109],"class_list":["post-3609","post","type-post","status-publish","format-standard","hentry","category-techno","tag-politic","tag-technologie"],"views":71,"_links":{"self":[{"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/posts\/3609","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/comments?post=3609"}],"version-history":[{"count":128,"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/posts\/3609\/revisions"}],"predecessor-version":[{"id":3740,"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/posts\/3609\/revisions\/3740"}],"wp:attachment":[{"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/media?parent=3609"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/categories?post=3609"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.francq.info\/index.php\/wp-json\/wp\/v2\/tags?post=3609"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}