L’avènement de l’IA générative pose à nouveau la question de l’intelligence des ordinateurs. Ce questionnement, abandonné rapidement à ses débuts, est relancé par les succès récents de l’IA. Serait-on près de la fameuse singularité technologique, ce moment où les machines deviennent supérieures aux humains ?
Plusieurs spécialistes affirment que certaines IA modernes disposent désormais d’une intelligence humaine. Leur capacité à générer du code informatique complexe, à donner des réponses correctes à des examens universitaires ou encore à créer des poèmes le prouverait [1]. L’ordinateur résout des problèmes difficiles qui exigent expertises et expériences de la part des humains.
On ne peut évidemment pas nier les réussites époustouflantes de l’IA générative1 bien loin des approches par force brute au cœur des premières réussites de l’IA2. Pour autant, au regard de leur fonctionnement actuel, on peut néanmoins légitimement s’interroger sur le fait que ces réalisations représentent une preuve d’intelligence.
Sans m’exprimer sur l’impossibilité pour un ordinateur d’être «intelligent» un jour, je partage le scepticisme concernant les modèles actuels. Je ne pense pas que nous nous trouvions déjà en présence d’IA capables de reproduire le raisonnement humain.
Le test de Turing
La question de l’intelligence d’un ordinateur n’est pas neuve, et ce même avant l’invention du transistor qui permit la progression fulgurante de la puissance computationnelle. Dès 1950, Alan Turing, l’un des pères de l’informatique, pose déjà la question dans un article fondateur [2]. Pour y répondre, il propose un test, qu’on appellera par la suite «le test de Turing».
Il s’agit d’une variation du jeu d’imitation. Un interrogateur humain interagit textuellement (donc sans image ni voix) avec un humain et un ordinateur sans savoir qui est qui, et doit identifier lequel des deux est l’humain. Pour cela, il peut formuler toutes les questions qu’il souhaite, l’humain et l’ordinateur étant obligés d’y répondre3.
Pour Turing, si l’interrogateur est incapable de distinguer l’humain de l’ordinateur, c’est que ce dernier a pu soutenir une discussion élaborée et répondre à toutes les questions comme le ferait un humain, ce qui démontre son intelligence. Notons que ce test ne s’intéresse nullement aux mécanismes mis en œuvre par l’ordinateur pour le passer.
Plusieurs spécialistes aujourd’hui estiment que les agents conversationnels basés sur l’IA générative démontrent cette aptitude [1]. Et le fait que l’IA réponde bien plus vite et sur un champ de connaissances bien plus vaste que n’importe quel humain pourrait même être la preuve qu’elle nous a déjà dépassée.
Certes, des professeurs auraient la puce à l’oreille en voyant une orthographe et un style aussi léchés et cohérents sur l’ensemble des réponses. De même, avec un peu d’entraînement, on identifierait des tournures de phrases propres à l’IA [3]. Mais les humains ont aussi leurs petites manies et nos grandes écrivaines et grands écrivains nous rappellent que la perfection dans l’écriture est à notre portée.
De plus, le fait que les réseaux de neurones artificiels, ces modèles mathématiques supposés proposer une version informatisée du fonctionnement de notre cerveau4, se trouvent au cœur de l’IA générative renforce l’idée d’une sorte d’équivalence entre les processus d’un ordinateur et ceux de nos raisonnements.
Des erreurs monumentales
Pourtant, en pratique, l’IA, y compris sa composante générative, produit parfois des réponses complètement erronées. Évidemment, l’humain se trompe également. Mais l’IA se distingue par des erreurs d’une flagrante bêtise générées par des modèles spécialisés. Prenons deux exemples5.
En modifiant un simple pixel d’une photo, une IA de reconnaissance d’images peut confondre une voiture avec un chien [4]. Malgré un apprentissage sur des millions d’exemples, une IA peut donc éprouver des difficultés à «comprendre» qu’un chien n’a pas de roues et qu’une voiture n’utilise pas de pattes pour se déplacer.
Lorsqu’on formule une même demande sous des formes légèrement différentes, les agents conversationnels peuvent générer des réponses dissemblables (dont certaines parfois fausses), alors même que les diverses formulations ne contiennent aucune ambiguïté quant à la tâche demandée [5].
Là où l’humain gère généralement ambivalence, imprécision et informations manquantes — nos enseignantes et enseignants le démontrent chaque jour en répondant aux élèves — l’IA générative tâtonne parfois. Là où l’humain construit ses expertises par ajouts successifs, une IA peut donner une bonne réponse à une question compliquée tout en produisant une mauvaise à un problème banal du même domaine.
On me rétorquera qu’il «suffit» d’augmenter la taille des modèles et de fournir plus d’exemples pour éviter que des IA fassent de telles erreurs. Sans doute. Mais l’intelligence n’est-elle pas liée à une capacité de généralisation «rapide» ? Nécessiter des millions d’exemples pour apprendre à distinguer un chien d’une voiture est-ce réellement un signe d’intelligence ?
Un apprentissage statistique à petits pas
Les limites actuelles de l’IA découlent certainement de son fonctionnement basé sur l’apprentissage statistique. Une IA calcule des probabilités de similarité entre une demande (telle une photo) et des échantillons qui lui sont fournis (par exemple un corpus d’apprentissage composé de photos étiquetées de chiens et de voitures).
Concrètement, l’approche statistique recherche des motifs réguliers dans les données numériques qu’on lui propose. Si une série de nombres suit toujours une autre, à chaque fois que la première série sera rencontrée, la seconde aura une grande probabilité d’être générée. Et peu importe si ces nombres représentent du texte, du son ou une image.
Prenons un agent conversationnel comme ChatGPT. Il transforme d’abord la demande initiale en une liste de jetons. Chaque jeton correspond à un ensemble de quelques caractères (tels «ception» ou «ues»). On assigne à chaque jeton un identifiant (nombre) unique. L’agent conversationnel va calculer quel jeton (nombre) possède la plus grande probabilité de compléter la liste initiale et l’y ajoute6.
Puis, progressivement et de manière récursive, il adjoint d’autres jetons à cette liste. À chaque étape, il calcule toujours le jeton le «plus probable» à juxtaposer. Lorsqu’un jeton particulier est généré, le processus s’arrête. L’ensemble des jetons générés forme la réponse à la demande7.
Pour construire un modèle d’IA, il faut énormément d’échantillons8 pour déterminer la valeur de ses nombreux paramètres, parfois des milliers de milliards. Chaque échantillon ne permet d’ajuster que quelques paramètres et de manière très circonscrite. Pas de place donc pour un «moment eurêka».
Une IA s’adapte donc «linéairement» au fil des millions d’échantillons qu’on lui donne. Même si la puissance de calcul donne l’illusion d’une rapidité, au prix sans doute d’une consommation énergétique difficilement soutenable sur le moyen terme, une IA apprend laborieusement.
Les sauts rationnels
À l’inverse, les humains apprennent plutôt par ce que j’appelle (par analogie avec les sauts quantiques) des «sauts rationnels». Chaque nouvelle connaissance provoque un changement de notre système de connaissances quasi instantané.
Cette brusque transformation crée des relations conceptuelles nouvelles avec des connaissances existantes qui permettent un saut qualitatif de notre capacité de raisonnement. Ce sont ces sauts qui représentent notre faculté de généralisation.
Ainsi, si un humain sait qu’aucun mammifère n’a de roue9 et qu’un chien est un mammifère, aucun exemple ne sera nécessaire pour différencier une voiture d’un chien, et ce même si l’humain n’a jamais vu un chien de sa vie.
La chambre chinoise
D’ailleurs, si un humain utilisait un fonctionnement similaire à une IA pour résoudre un problème complexe, parlerait-on d’intelligence ?
Pour répondre à cette question, j’utiliserai une variante de l’expérience de pensée dite de la «chambre chinoise» du philosophe américain John Searle [6]. Dans celle-ci, je me retrouve enfermé dans une bibliothèque composée uniquement d’ouvrages en chinois, langue que je ne connais pas.
Ma seule possibilité de sortie est de donner la bonne réponse à une question qui m’est posée en chinois. Je pourrai alors essayer de retrouver dans les ouvrages la liste de sinogrammes formant la question. Supposons que j’en identifie quelques-uns qui la contiennent.
Je pourrai remarquer qu’à chaque fois que ces sinogrammes sont présents, on retrouve toujours un peu après une autre liste. Je pourrai recopier chacun des sinogramme de cette seconde liste et la renvoyer comme «réponse». À aucun moment je ne comprends ce que je fais. Je me contente juste de chercher des «images» identiques puis d’en imiter d’autres.
Sachant que la maîtrise du chinois demande des décennies de travail et d’efforts, peut-on pour autant en conclure que je suis intelligent si (par chance) la «réponse» que je donne est correcte ? Je ne le pense pas.
C’est la raison pour laquelle je ne crois pas non plus qu’on puisse qualifier l’IA actuelle d’intelligente. Même lorsqu’elle «innove», comme en générant un algorithme de tri plus efficace que ceux connus [7], l’IA procède par traitement de nombres sans la moindre signification. Sa capacité à en manipuler des millions à une vitesse incroyable m’apparaît seulement comme une illusion d’intelligence.
J’insiste pour dire que cela n’invalide pas forcément l’usage de l’IA. De nombreux modèles statistiques ont une utilité avérée (par exemple les modèles de diffusion d’épidémies reposent en partie dessus). Mais cela n’octroie pas pour autant une intelligence aux machines qui les calculent, et ce quelle que soit la complexité de ces modèles.
L’absence de bon sens
Il y a en outre une autre différence cruciale entre le fonctionnement d’une IA et celui d’un humain : l’importance de la projection dans le monde. Nous pensons et agissons toujours en étant encastrés dans une réalité et nous savons que nous agissons sur elle d’une manière ou d’une autre.
Là où un humain anticipe des conséquences de ses actions, parfois en les sous-estimant ou en les sur-estimant, l’IA n’anticipe rien du tout. Elle génère une réponse, telle une séquence de jetons pour l’IA générative, sans en mesurer les répercussions10.
L’humain est continuellement en prise avec ce que les biologistes appellent son «Umwelt», son environnement sensoriel propre, qui le projette dans la réalité [8]. Rien de tout cela pour une IA : elle calcule et produit une série de nombres.
La course au gigantisme des modèles actuellement en cours va certainement permettre à l’IA de résoudre à l’avenir des problèmes toujours plus complexes tout en diminuant ses hallucinations. Mais je reste convaincu que l’approche statistique actuelle se montrera incapable de lui donner le bon sens nécessaire pour éviter les erreurs grossières.
On est toujours dans l’ère de l’IA faible
Les fondateurs de la discipline espéraient au début reproduire les processus mentaux humains dans des ordinateurs, une approche dite de «l’IA forte». Face aux échecs initiaux, la communauté de l’IA adopta une autre démarche dite de «l’IA faible».
Il ne s’agit plus d’égaler, et encore moins de dépasser, une intelligence humaine, mais de proposer des outils qui résolvent automatiquement de manière satisfaisante des problèmes qui, s’ils étaient traités par des humains, demanderaient de l’intelligence. L’IA générative est peut-être l’aboutissement de cette perspective.
Pourrons-nous un jour développer des IA qui, sur base d’autres approches, acquièrent une intelligence similaire à la nôtre ? Pour celles et ceux qui croient en l’existence d’une transcendance, la réponse ne peut être que négative. Pour les autres, tout est théoriquement possible. Mais ceci est une autre histoire…
Références
[1] Eddy Keming Chen, Mikhail Belkin, Leon Bergen & David Danks, «Does AI Already Have Human-Level Intelligence? The Evidence Is Clear», Nature, 650(8100), pp. 36‑40, 2026.
[2] Alan Turing, «Computing Machinery and Intelligence», Mind, 59(236), pp. 433‑460, 1950.
[3] Frédéric Kaplan, «L’étrange plume de ChatGPT», Le Monde diplomatique, 72(856), p. 19, 2025.
[4] Jiawei Su, Danilo Vasconcellos Vargas & Kouichi Sakurai, «One Pixel Attack for Fooling Deep Neural Networks», IEEE Transactions on Evolutionary Computation, 23(5), pp. 828‑841, 2019.
[5] Lexin Zhou, Wout Stellar, Fernando Martínez-Plumed, Yael Moros-Daval, Cèsar Ferri & José Hernández-Orallo, «Larger and more instructable language models become less reliable», Nature, 634(8032), pp. 61‑68, 2024.
[6] John R. Searle, «Minds, brains, and programs», Behavioral and Brain Sciences, 3(3), pp. 417‑424, 1980.
[7] Daniel J. Mankowitz, Andrea Michi, Anton Zhernov, et al., «Faster sorting algorithms discovered using deep reinforcement learning», Nature, 618(7964), pp. 257‑263, 2023.
[8] Jakob von Uexküll, Umwelt und Innenwelt der Tiere, Springer, 1909.
Notes
- J’utilise très régulièrement l’IA, notamment pour générer rapidement des brouillons de code informatique pour différents problèmes. Il ne s’agit donc pas dans ce billet de remettre en cause les utilités potentielles de l’IA. ↩︎
- Les ordinateurs calculant avec une rapidité et une précision hors d’atteinte de n’importe quel humain, ils peuvent évaluer un bien plus grand nombre de possibilités qu’un humain. Par exemple, pour un jeu d’échecs, ils peuvent calculer toutes les possibilités avec des dizaines de coups d’avance, ce que même des génies se montrent incapables de faire. ↩︎
- Par contre, rien n’oblige les deux parties à répondre «honnêtement», en particulier l’ordinateur peut déployer des stratégies pour tromper l’interrogateur. ↩︎
- En réalité, comme je l’ai déjà signalé quelques fois sur ce blog, les réseaux de neurones artificiels se basent sur une compréhension limitée et incomplète du fonctionnement de notre cerveau. ↩︎
- Ces deux exemples utilisent l’approche statistique pour solutionner les problèmes, approche qui s’est imposée dans le champ de l’IA. Il existe d’autres approches qui sont plus robustes quant aux erreurs qu’elles produisent, mais elles sont limitées à un ensemble très restreint (de classes) de problèmes, de sorte que leur supposée intelligence ne se pose pas. ↩︎
- Pour établir ses probabilités, un agent conversationnel analyse des milliards de documents pour déterminer des corrélations entre différents ensembles de jetons. ↩︎
- Puisque chaque jeton dispose de son identifiant unique, lorsqu’un agent conversationnel génère un jeton, il suffit de regarder dans une table de correspondance à quel ensemble de caractères il correspond pour présenter du texte. ↩︎
- Plus la taille d’un modèle est importante, plus il faut décupler le nombre d’échantillons pour l’entraîner «correctement». ↩︎
- Je m’inspire évidemment de l’exemple bien connu d’Aristote. Si tous les humains sont mortels (connaissance ancienne), et que Pascal est un humain (nouvelle connaissance), alors on sait «instantanément» que Pascal est mortel. ↩︎
- En pratique, les fournisseurs d’IA encadrent leurs modèles d’un ensemble de règles qui vérifient, parfois de manière fort peu efficace, que les résultats fournis ne posent pas de problèmes. ↩︎