La fin de de l’impunité ?

Les grandes entreprises du numérique, dont les fameux GAFAM, doivent leur puissance financière et politique à l’adoption rapide et massive des nouveaux outils technologiques qu’elles développent. Cette dynamique s’explique en grande partie par une très faible régulation d’internet et des technologies informatiques¹ qui limite les risques juridiques résultant d’usages problématiques de ces outils.

Nous pourrions cependant assister à un changement de perspective radical. Le 24 mars 2025, la justice américaine condamne Meta pour avoir privilégié sa rentabilité au détriment de la protection des jeunes quant aux conséquences néfastes d’une utilisation intensive de ses services [1]. Un jour plus tard, elle sanctionne Meta et Google pour avoir contribué à la dépression d’une internaute qui utilisait leurs services depuis ses six ans [2].

S’il est encore trop tôt pour saisir toutes les implications de ces deux jugements, il n’en demeure pas moins qu’ils marquent une rupture avec la situation existante. En effet, jusqu’ici, les spécificités propres aux marchandises immatérielles² facilitaient leur dissémination sans réel contrôle.

Ces jugements rappellent surtout qu’il est grand temps de soumettre ces géants du numérique au respect de l’intérêt général. Une priorité d’autant plus urgente à mesure qu’ils mettent toujours plus d’outils d’intelligence artificielle à disposition de n’importe qui.

La nature immatérielle des marchandises numériques

Contrôler les usages faits de marchandises n’est pas un problème nouveau. Pensons aux médicaments, aux aliments industriels ou encore à l’énergie nucléaire. Mais le caractère immatériel des marchandises numériques bouleverse le contrôle de l’État sur leur mise en œuvre.

La production de marchandises matérielles implique souvent des contraintes demandant temps et capital. Il faut généralement commencer par construire des usines avec des coûts proportionnels aux nécessités parfois ultra-strictes qu’elles doivent rencontrer (sécurité, hygiène, machines-outils, etc.).

Il faut disposer d’un réseau de distribution qui implique une infrastructure de transport et souvent des zones de stockage et des points de vente. Enfin, durant le transport, les marchandises matérielles exigent régulièrement un conditionnement spécifique³. Tout cela impacte les coûts et les délais des processus nécessaires pour que les marchandises matérielles arrivent aux destinataires finaux.

Rien de tout cela pour les marchandises immatérielles. Un simple ordinateur permet de développer un logiciel et sa distribution est instantanée grâce à internet⁴. Alors que de nombreuses marchandises matérielles mobilisent généralement une force de travail importante, l’existence d’une multitude de blocs de base logiciels permet à des équipes restreintes de produire très rapidement.

La conséquence est une difficulté, pour ne pas dire une impossibilité, pour l’État à maîtriser le déploiement de marchandises immatérielles. Là où l’État peut contrôler des marchandises matérielles qui arrivent par un nombre limité de points physiques, et qui sont produites et vendues dans des endroits bien précis, il n’a aucune visibilité sur qui télécharge et exécute quoi (du moins en démocratie)⁵.

Une montée en charge flexible

On pourrait rétorquer que mettre à disposition de centaines de millions d’internautes des logiciels ou des gros modèles d’IA demande des infrastructures computationnelles importantes, et que la construction d’immenses grappes de serveurs ne passe pas inaperçue.

Mais on n’a pas forcément besoin de grandes capacités tout de suite. On peut fort bien démarrer avec une version plus limitée, voire réservée d’abord à une minorité⁶, pour s’assurer un premier groupe d’utilisateurs et d’utilisatrices avant de rechercher des investissements ultérieurs pour acquérir la puissance nécessaire pour étendre l’usage au grand public.

Par ailleurs, lorsqu’on doit monter en puissance, on n’est pour autant pas obligé de disposer de ses propres infrastructures qui requièrent d’acheter et de maintenir ses propres grappes de serveurs. Il suffit de louer une partie d’infrastructure chez un tiers. À titre d’exemples, Netflix et Spotify utilisent le service Amazon Web Services pour héberger leurs plateformes de streaming.

Et même lorsqu’on dispose de sa propre infrastructure, on peut commencer «petit» et ajouter progressivement des machines au fur et à mesure de ses besoins. C’est d’autant plus facile que les solutions de gestion de grappes de serveurs s’adaptent dynamiquement à la charge et aux ressources disponibles.

Un décalage entre temps législatif et temps numérique

On comprend dès lors pourquoi il devient «facile» pour une entreprise informatique de concevoir une nouvelle marchandise et la distribuer au plus vite à travers le monde. Certes, une campagne de communication doit accompagner toute sortie pour s’assurer de l’indispensable visibilité, mais cela n’entrave en rien la rapidité avec laquelle une marchandise immatérielle est déployée et utilisée⁷.

En comparaison, en démocratie, le temps législatif s’avère très lent. Il faut un véritable travail parlementaire, d’abord en commission, puis en séance plénière pour trouver une majorité susceptible de voter un texte, puis prévoir une période transitoire entre le moment où un texte est voté et le moment où sa mise en œuvre est complète. Sans parler des moyens de vérifier son respect par la suite.

Illustrons ceci avec les cookies, ces petits textes créés par des sites Web et stockés sur votre ordinateur. Pensés au départ comme un moyen de retenir certaines préférences des utilisateurs⁷, ils sont considérés depuis comme un des outils de la cybersurveillance [3]. Alors que les sites Web utilisent les cookies depuis 1994, il faut attendre 2002 pour que l’Union européenne légifère [4].

Des entreprises numériques supposées irresponsables

La faible compréhension technologiques de la plupart des responsables politiques aggrave cette difficulté des États à réguler les évolutions informatiques. Trop souvent leur priorité se limite à favoriser l’émergence de la prochaine licorne sur leur territoire plutôt que d’anticiper les conséquences néfastes potentielles des innovations technologiques.

En conséquence, les entreprises se retrouvent souvent libres quant à la manière dont elles déploient leurs marchandises immatérielles sans trop se soucier, au-delà des discours de circonstance, des impacts potentiels. Cela leur permet de s’engager dans une course au développement et au déploiement de nouvelles marchandises, un phénomène observé aujourd’hui avec l’IA générative.

En pratique, les entreprises jouant un rôle dans l’accès ou la diffusion de contenus en ligne disposent d’un statut d’hébergeur qui les dégage de toute responsabilité a priori quant à ces contenus [5]. Leur responsabilité ne peut être engagée que lorsqu’elles sont parfaitement au courant qu’une infraction se déroule et qu’elles ne réagissent pas⁸.

Et même dans ce cas le processus n’est pas forcément automatique. Sony intente ainsi un procès à un fournisseur d’accès pour ne pas résilier l’abonnement d’internautes violant le droit d’auteur de manière répétitive, le fournisseur d’accès se défendant en indiquant qu’il ne participe pas activement à l’infraction [6]. La Cour Suprême des États-unis doit désormais se prononcer sur le fond, laissant encore ouverte la question d’une responsabilité partielle possible du fournisseur d’accès.

Un déploiement de marchandises numériques libre

Les entreprises du numérique ne rendent donc quasiment pas de comptes quant aux usages que les internautes font de leurs marchandises.

Peu importe que leurs plateformes véhiculent des propos d’extrême-droite, contribuent au cyberharcèlement et mettent en danger des jeunes, ou que leurs modèles d’IA tuent la créativité, facilitent la création de deepfakes et de logiciels malveillants, elles étaient jusqu’à présent juridiquement dédouanées.

Pour leur défense, les entreprises avancent, à l’instar du fournisseur d’accès mentionné ci-dessus, qu’elles ne peuvent pas contrôler tous les usages faits de leurs marchandises. Elles se perçoivent comme des fabricants de voitures qui ne porteraient aucune responsabilité lorsqu’un conducteur écrase volontairement un piéton avec l’un de leurs véhicules.

Mais les fabricants sont bien sujets à des poursuites pénales s’ils commercialisent des voitures avec des freins défectueux. Dès lors, on ne devrait pas dédouaner les fournisseurs numériques des problèmes découlant de l’utilisation des marchandises qu’ils commercialisent lorsque ceux-ci sont connus d’avance et/ou découlent directement des faiblesses de ces marchandises (à l’image des mauvais freins de voiture).

On sait ainsi depuis longtemps que passer trop de temps derrière son écran contribue à la désocialisation des jeunes (et des moins jeunes). Les géants du numérique, en cherchant à développer des formes de dépendance des internautes à leurs plateformes, se comportent comme des dealers de drogue. Il y a évidemment une différence de degré, mais pas de nature. C’est bien le sens des deux jugements évoqués en début de billet.

L’urgente question de la responsabilité des fournisseurs d’IA

Mais nos interrogations quant aux responsabilités des entreprises du numérique ne peuvent pas se limiter aux seules plateformes. Le déploiement massif de l’IA générative au cœur de nos sociétés appelle une réponse plus globale.

Le récent conflit entre la société Anthropic et l’administration américaine le rappelle. Anthropic n’autorise pas l’usage de ses modèle d’IA par le Pentagone à des fins de «surveillance intérieure de masse» ou d’«armes complètement autonomes» [7]⁹, ce qui ne plaît pas au gouvernement de Donald Trump.

Le fait que, après le bannissement de la société Anthropic par le gouvernement américain¹⁰, son concurrent OpenAI s’empresse de la remplacer (et d’amasser les dollars qui en découlent) démontre qu’on ne peut pas compter sur l’auto-régulation des acteurs du numérique.

La taille gigantesque des corpus d’apprentissage qui alime la course aux gros modèles oblige les fournisseurs à utiliser toute source numérique disponible. Dès lors, les bêtises, les biais et les méchancetés présents en ligne — et nous savons que cela représente une part importante d’internet — se retrouvent dans ces corpus et donc, in fine, dans les réponses produites par ces modèles.

Il est assurément impossible de contrôler de manière quelque peu fiable le contenu de milliards de documents en ligne. Mais cela ne peut pas être une excuse pour dédouaner les concepteurs de modèles d’IA de toute responsabilité. Accepterions-nous les conseils médicaux d’une personne qui ne connaîtrait pas bien notre dossier médical (c’est-à-dire «son corpus d’apprentissage») avant de «produire» un conseil ? Pourquoi alors l’admettre pour les fournisseurs d’IA ?

De manière plus globale, le fait que les fournisseurs ne comprennent pas la manière dont fonctionnent les modèles d’IA qu’ils commercialisent¹¹ devrait nous pousser à la plus grande prudence quant à leur déploiement. Mais c’est tout le contraire qui se passe.

Une Union européenne volontariste

Dans ce contexte, reconnaissons à l’Union européenne la volonté de faire entendre une autre voix. Profitant de représenter un énorme marché d’une population globalement en capacité de consommer des marchandises numériques, elle tente de protéger les internautes d’Europe de certains effets délétères de l’économie numérique.

Le symbole de cette résistance est sans doute le règlement général sur la protection des données (RGPD) de 2016 [8]. Il établit des règles claires encadrant la manière de gérer les données personnelles numériques des internautes en Europe. Bien que le RGPD n’empêche pas leur exploitation en tant que telle, il propose néanmoins de nombreuses avancées n’existant nulle part ailleurs (transparence, nécessite de sécurisation informatique, sanctions, etc.).

Plus récemment, en 2024, l’Union européenne adopte le règlement sur l’intelligence artificielle dit «IA Act» [9]. Il distingue différents niveaux de risques engendrés par l’usage d’IA allant de «risque minimal» à «risque inacceptable», ce dernier cas appelant l’interdiction pure et simple de l’IA. Même s’il ne définit nullement qui, ni comment, décide à quel niveau de risque une IA appartient, l’«IA Act» a le mérite d’affirmer que certains usages devraient être interdits.

Pour autant, la force théorique de ces mécanismes européens s’écrase quelque peu sur les réalités pratiques car l’Union européenne dispose de peu de moyens pour contrôler réellement les géants du numérique américains¹². En dehors de quelques amendes importantes, dont différents recours suspendent l’application, on ne voit guère comment l’Union européenne pourrait contrôler ce qui se déroule «sous le capot» de leurs technologies.

On peut se demander au demeurant si l’absence actuelle de réelles alternatives européennes aux entreprises numériques américaines n’explique pas en partie le volontarisme des différentes régulations européennes en matière informatique. De fait, depuis l’émergence de Mistral AI comme acteur français en IA, on constate déjà la tentation de limiter l’application pratique de l’«IA Act».

Et dans le contexte du bras de fer permanent imposé par Donald Trump entre les États-Unis et l’Europe, l’Union européenne est mise sous pression pour vider ses régulations informatiques de toute substance et laisser le champ complètement libre aux géants américains du numérique.

Une volonté politique collective

De plus en plus de voix en appellent à la création d’entités de régulation de l’IA alimentées par des recherches pluridisciplinaires [10]. Une idée qui recoupe une proposition que j’ai faite il y a plusieurs années déjà à propos de la régulation d’internet [11], et qui pourrait très facilement s’étendre à l’IA.

En effet, seules des agences indépendantes (à l’image des agences du médicament) composées de personnes qualifiées permettraient de comprendre la portée des derniers développements informatiques et de réagir rapidement à des dérives [11]. On entend évidemment déjà certaines entreprises crier au frein à l’innovation, mais la précipitation s’avère rarement bonne conseillère en matière d’intérêt général.

La dimension immatérielle du numérique, qui permet une diffusion quasi instantanée aux quatre coins du globe, suppose idéalement que de telles agences travaillent à l’échelle mondiale. Ce qui implique une action collective des États s’inscrivant dans un cadre juridique international privilégiant la concertation au sein d’enceintes multilatérales. Mais ceci est une autre histoire…

Références

[1] Arnaud Leparmentier, «Un verdict « historique » condamne Meta, la maison mère de Facebook et d’Instagram, pour mise en danger de mineurs au Nouveau-Mexique», Le Monde, 25/3/2026.

[2] Bobby Allyn, «Jury Finds Meta and Google Negligent in Social Media Harms Trial», NPR, 25/3/2026.

[3] Pascal Francq, Internet: Tome 2, Le caractère fétiche, Éditions Modulaires Européennes, 2011.

[4] «Directive 2002/58/EC», Journal officiel, 2002.

[5] Jacques Larrieu, Droit de l’Internet, 2e édition, Ellipses, 2010.

[6] Pamela Samuelson, «Should Broadband Providers Be Liable for Subscribers’ Infringements?», Communication of the ACM, 69(3), pp. 24‑26, 2026.

[7] Alexandre Piquard, «Anthropic, cette start-up d’IA qui ose contredire Donald Trump», Le Monde, 11/2/2026.

[8] «Règlement (UE) 2016/679», Journal officiel, 2016.

[9] «Règlement (EU) 2024/1689», Journal officiel, 2024.

[10] Claudi L. Bockting, Eva A. M. van Dis, Robert van Rooij, Willem Zuidema & Johan Bollen, «Living guidelines for generative AI — why scientists must oversee its use», Nature, 622(7984), pp. 693-696, 2023.

[11] Pascal Francq, Neutrality in internet regulation: three regulatory principles, essai technique, Paul Otlet Institute, 2015.

Notes

1. Certains secteurs sont bien évidemment soumis à un très fort contrôle des logiciels. Par exemple, dans l’aviation, les logiciels subissent une vérification intensive (ce qui n’évite pas que certains problèmes subsistent). Mais dans la majorité des cas, la responsabilité d’éventuels problèmes retombe sur les utilisateurs et utilisatrices et non sur les éditeurs. ↩︎
2. J’utilise le mot «marchandise immatérielle» pour désigner tout logiciel, modèle d’IA ou service en ligne. ↩︎
3. Certains aliments ou médicaments demandent que la chaîne du froid ne soit jamais brisée durant le transport au risque de les rendre inconsommables. ↩︎
4. Avant l’avènement d’internet, à une époque où la plupart des ordinateurs n’étaient pas connectés, les éditeurs de logiciels devaient aussi disposer d’une chaîne de distribution. Je me souviens être allé plusieurs fois dans un magasin spécialisé pour acheter une boîte contenant des disquettes pour installer un logiciel sur mon ordinateur. Mais aujourd’hui, à part peut-être encore pour certains jeux vidéo, la distribution des logiciels se fait directement par internet. ↩︎
5. En théorie, les États pourraient contrôler les séquences binaires qui transitent par les réseaux informatiques puisque seul un nombre «limité» de nœuds interconnectent le grands réseaux. Mais, en pratique, on voit mal comment tout vérifier et décider quelles séquences correspondent à des logiciels «acceptables» et lesquelles pas (ce qui suppose aussi de définir ce qu’est un logiciel «acceptable»). ↩︎
6. C’est la stratégie suivie par Google lors du lancement de son service de courriel Gmail. Seule une poignée d’internautes eurent accès à son service avant que Google ne l’ouvre progressivement. ↩︎
7. On assiste même à une adoption toujours plus rapide de nouvelles marchandises immatérielles dites «disruptives». ↩︎
8. Un exemple d’usage de cookies est de retenir la langue d’utilisation. Lors de la première connexion, le site Web retient le choix de l’internaute sous la forme d’un cookie. Puis, lors des connexions suivantes, le site Web va lire ce cookie pour afficher directement le contenu dans la langue présélectionnée. ↩︎
9. Le principe prévoit que les plateformes retirent les contenus illégaux « dans les plus brefs délais », sans que cette dernière expression soit parfaitement définie. ↩︎
10. Anthropic n’empêche donc pas l’utilisation de ses modèles d’IA pour tuer des personnes (tant qu’il y a validation humaine) ou surveiller des non-Américains. ↩︎
11. La résiliation unilatérale du gouvernement américain de ses contrats avec Anthropic fait l’objet de recours juridiques en cours. ↩︎
12. La complexité des modèles mathématiques, des trillions de paramètres pour les plus gros, ainsi que leur nature non linéaire rend impossible l’explication précise des raisons qui amènent une IA à générer certains contenus dans certaines situations. ↩︎
13. Il existe bien évidemment des géants du numérique russes ou chinois, mais l’Europe utilise essentiellement les services des géants américains. ↩︎