Renaud Hée : « Une liberté qu’on n’ose plus exercer est déjà entamée »

propos recueillis par Nicolas Vidal

Votre livre repose sur un constat particulièrement inquiétant : l’intelligence artificielle progresse à une vitesse que nos institutions démocratiques et nos législateurs peinent à suivre. Mais ce retard est-il simplement le résultat d’une révolution technologique trop rapide, ou révèle-t-il une forme de renoncement politique face à la puissance économique des géants du numérique ? Autrement dit, les États ont-ils encore réellement les moyens d’imposer leurs lois à ceux qui développent ces technologies ?
Les deux, mais pas au même moment. Le retard de départ est structurel : le processus démocratique est lent parce qu’il délibère, la technologie avance vite parce qu’elle est en compétition et globalement les moyens financiers accélèrent considérablement l’évolution de l’IA. De plus, l’IA se développe elle-même maintenant ! L’AI Act, proposé en avril 2021, a été bouleversé en pleine négociation par l’arrivée de ChatGPT. Le législateur ne maîtrise pas suffisamment cette technologie et il était difficile à ce moment d’anticiper son évolution.

Depuis deux ans, ce retard change de nature : il commence à être choisi. En 2025, la Commission européenne a retiré sa directive sur la responsabilité en matière d’IA, faute d’accord en vue. En juillet 2026, un règlement de simplification a repoussé de seize mois, au 2 décembre 2027, les obligations des systèmes à haut risque : recrutement, crédit, éducation, police. La France, elle, n’a toujours pas fini de désigner par la loi ses autorités de contrôle, alors que l’échéance européenne était fixée au 2 août 2025.

Ces décisions ont leurs raisons. Les normes techniques n’étaient pas prêtes, et une règle mal calibrée pénalise d’abord les acteurs européens. Mais l’inaction est aussi un choix politique. Je parlerais donc moins de renoncement que d’un glissement des priorités : la compétitivité est passée devant la protection.

Les États ont-ils encore les moyens d’imposer leurs lois ? Oui, s’ils agissent à la bonne échelle et s’ils tiennent. En 2023, l’autorité italienne a suspendu ChatGPT et obtenu des engagements d’OpenAI en quelques semaines. En décembre 2025, l’Union a infligé 120 millions d’euros d’amende à X. Un marché de 450 millions d’habitants reste un levier considérable.

Ce qui manque n’est pas le pouvoir juridique, c’est la capacité d’exécution : des experts publics, des outils d’audit, des autorités dotées face à des entreprises qui ont plus d’ingénieurs et d’avocats qu’elles. C’est aussi la tenue politique. Quand le secrétaire d’État américain présente une amende européenne comme une attaque contre le peuple américain, appliquer sa propre loi devient un acte de souveraineté. Si la loi est en retard, c’est en partie parce que nous n’avons pas encore collectivement décidé que rattraper ce retard était urgent.

Vous consacrez plusieurs développements à la surveillance algorithmique, à la reconnaissance faciale et à la police prédictive. Nous entrons progressivement dans une société où des individus pourraient être considérés comme suspects non pas en raison de leurs actes, mais sur la base de probabilités calculées par des machines. N’assistons-nous pas à un bouleversement historique de notre conception de la présomption d’innocence ? Jusqu’où une démocratie peut-elle accepter de surveiller ses citoyens au nom de leur sécurité sans finir par remettre en cause les libertés qu’elle prétend protéger ?
Oui, le bouleversement est réel, et le droit européen l’a reconnu. La présomption d’innocence repose sur une idée simple : on répond de ce qu’on a fait. La logique prédictive en propose une autre : on est évalué d’après ce que des personnes au profil comparable ont fait. L’AI Act y répond : les personnes « devraient toujours être jugées sur leur comportement réel ». Depuis février 2025, il interdit de prédire le risque qu’une personne commette une infraction uniquement à partir de son profil ou de ses traits de personnalité.

Tout tient dans ce mot, « uniquement ». L’interdiction ne vise pas les outils qui étayent une évaluation humaine déjà fondée sur des faits, ni, pour l’essentiel, la prédiction par zones géographiques. Or celle-ci fabrique sa propre preuve : plus de patrouilles dans un quartier, plus de faits constatés, donc plus de patrouilles. C’est déjà un principe appliqué avec l’utilisation des statistiques. Mais nous n’en sommes pas encore au stade où des individus seraient interpellés avant leurs actes comme dans le film « Minority Report ».

Le risque le plus sérieux, en France, n’est pas un grand basculement. C’est la reconduction. La vidéosurveillance algorithmique a été autorisée à titre expérimental pour les Jeux de 2024, jusqu’en mars 2025. La loi du 20 mars 2026 l’a rouverte jusqu’à fin 2027. La loi Ripost, promulguée en août 2026, l’a prolongée jusqu’à fin 2030 et étendue à certains bâtiments ouverts au public, malgré un premier bilan mitigé.

Le Parlement a voté à chaque fois, mais au détour de textes consacrés aux Jeux ou à l’ordre public, jamais dans un débat de principe. Le 14 août, le Conseil constitutionnel a validé le dispositif, en ramenant toutefois à trois mois renouvelables une autorisation qui pouvait courir jusqu’à cinq ans pour les sites exposés à un risque permanent. Ces systèmes analysent des situations et n’identifient pas les visages, et cette différence compte. Mais une infrastructure survit aux intentions de ceux qui l’installent.

Jusqu’où aller ? Une démocratie peut surveiller, à quatre conditions : un motif fondé sur des faits, une finalité précise, une durée limitée, un contrôle effectif par un juge. Elle franchit la limite quand elle surveille tout le monde pour trouver quelqu’un. En 2023, la Cour européenne des droits de l’homme a condamné la Russie pour avoir identifié par reconnaissance faciale un manifestant pacifique, en relevant l’effet dissuasif de cette technologie. Une liberté qu’on n’ose plus exercer est déjà entamée.

J’ajoute un test simple pour chaque déploiement : accepterions-nous ce dispositif entre les mains du gouvernement qui nous inspire le plus de méfiance ?

L’IA reste un outil puissant et utile sur lequel il faut compter, mais la décision restera humaine.

Vous analysez le pouvoir considérable des algorithmes des grandes plateformes numériques sur la circulation de l’information et le débat public. Aujourd’hui, quelques entreprises privées disposent de moyens techniques leur permettant de rendre certaines opinions extrêmement visibles et d’en marginaliser d’autres. Peut-on encore parler d’un débat démocratique véritablement libre lorsque sa visibilité dépend de systèmes opaques ? Et comment empêcher que les réglementations européennes, notamment le Digital Services Act, deviennent elles-mêmes des instruments de contrôle politique de la parole publique ?
Le débat reste libre en droit. Il l’est moins en fait. Personne ne vous interdit de parler, mais un système opaque décide qui vous entendra. La censure classique laissait une trace et une décision à contester. L’invisibilité algorithmique n’en laisse aucune. Très honnêtement, l’instrumentalisation politique n’a pas besoin de l’IA et existe déjà depuis longtemps.

Aucune plateforme n’est neutre : classer, c’est choisir. La vraie question est de savoir selon quels critères ces choix sont faits et qui les contrôle. Aujourd’hui, des entreprises exercent un pouvoir éditorial sans en assumer la responsabilité, avec des algorithmes qui récompensent souvent ce qui divise, parce que cela retient l’attention.

Votre seconde question est légitime, et je la pose moi-même dans le livre. L’exemple chinois montre qu’une régulation peut servir le contrôle autant que la protection. Une régulation démocratique doit protéger les citoyens contre les abus des entreprises, mais aussi contre ceux de l’État.

L’Europe n’est pas à l’abri. En août 2024, un commissaire européen a écrit publiquement au propriétaire de X, juste avant son entretien avec Donald Trump, pour lui rappeler ses obligations au titre du DSA. La Commission a précisé que ni le moment ni la formulation n’avaient été coordonnés avec sa présidente et le collège. À l’inverse, la première amende du DSA montre le bon terrain. Les 120 millions d’euros infligés à X en décembre 2025 sanctionnent une coche bleue trompeuse, un registre publicitaire insuffisant et un accès trop limité des chercheurs aux données. Aucune opinion n’y est jugée.

Trois garde-fous me paraissent indispensables :

• Réguler l’architecture, jamais l’opinion. On contrôle les systèmes, la transparence et les voies de recours. Aucune autorité ne dit ce qui est vrai : la loi définit l’illicite et le juge le tranche.
• Interdire la pression informelle. Toute demande d’une autorité à une plateforme doit être écrite, motivée, publique et contestable.
• Séparer le contrôle du politique. La Commission est à la fois une institution politique et le contrôleur des très grandes plateformes. Cette concentration doit être corrigée, ou au moins compensée par un contrôle juridictionnel rapide.

Le meilleur contre-pouvoir reste l’utilisateur : savoir pourquoi un contenu lui est montré, choisir un fil non personnalisé, contester un retrait. Une régulation qui renforce ce pouvoir-là tourne le dos à la censure.

L’une des questions fondamentales soulevées par votre ouvrage concerne la responsabilité juridique. Lorsqu’une intelligence artificielle provoque une erreur médicale, contribue à une décision judiciaire injuste ou produit une discrimination, la chaîne des responsabilités devient particulièrement complexe. Mais derrière cette difficulté juridique, n’existe-t-il pas un danger plus profond : celui de voir émerger un pouvoir capable de prendre des décisions déterminantes sur nos existences sans qu’aucun responsable humain puisse véritablement en répondre ? Sommes-nous en train d’organiser une forme d’irresponsabilité institutionnalisée ?
Oui, ce danger existe, mais comme je l’ai dit, l’IA est un outil et l’utilisateur doit vérifier ce qui en sort. L’humain restera toujours le seul à décider de ce qu’il en fait. Entre le concepteur d’un modèle et la personne lésée, il peut y avoir une dizaine d’acteurs, et chacun peut renvoyer la faute au maillon voisin. Le résultat ressemble à une irresponsabilité organisée, sans que personne l’ait organisée.

Cette dilution prend deux formes. La première est l’opacité sans répondant. En 2016, dans l’affaire Loomis, la Cour suprême du Wisconsin a admis qu’un score de risque protégé par le secret commercial figure dans le dossier de peine, à condition de ne pas être déterminant. L’accusé pouvait contester son score, pas examiner l’algorithme.

La seconde est plus perverse : l’humain fusible. En 2018, à Tempe, un véhicule autonome d’Uber a tué une piétonne. La conductrice de secours a plaidé coupable de mise en danger, et Uber n’a pas été poursuivi pénalement. Sa faute était réelle. Mais elle a répondu seule, devant le juge pénal, au bout d’une chaîne de décisions qu’elle n’avait pas conçue. Le même risque guette le médecin ou l’agent public qui valide une recommandation parmi des centaines, sans moyen réel de la contester.

Le droit bouge, mais il laisse le cœur du problème à découvert. La nouvelle directive européenne sur les produits défectueux, à transposer d’ici le 9 décembre 2026, couvre les logiciels et l’IA et allège la preuve face aux boîtes noires. C’est un vrai progrès. Mais elle exclut la discrimination, l’atteinte à la vie privée et le préjudice purement économique. Le texte qui devait la compléter, la directive sur la responsabilité liée à l’IA, a été retiré. Pour un refus de crédit discriminatoire, la victime doit encore réunir des preuves auxquelles elle n’a pas accès.

La jurisprudence ouvre une brèche utile. En février 2025, la Cour de justice de l’Union a jugé qu’une personne peut exiger l’explication de la procédure et des principes réellement appliqués. Le secret des affaires ne suffit pas à tout refuser : c’est au juge ou à l’autorité de contrôle d’arbitrer.

Je défends un principe simple : pas de décision sans responsable nommé. Toute décision qui engage un droit doit avoir un signataire capable de l’expliquer et habilité à la changer. Quand le système est opaque, une partie de la charge de la preuve doit passer du côté de celui qui le déploie. Ce qu’une institution ne peut pas expliquer, elle ne doit pas pouvoir l’imposer.

Vous abordez également les risques que l’intelligence artificielle fait peser sur les processus électoraux, notamment à travers le micro-ciblage politique, les contenus synthétiques et la manipulation algorithmique de l’opinion. À partir du moment où une technologie peut produire massivement de fausses informations crédibles, personnaliser des messages politiques et influencer leur diffusion, comment garantir encore la sincérité d’une élection ? Le danger principal réside-t-il dans la manipulation des électeurs ou, plus profondément, dans la disparition progressive d’une réalité commune sur laquelle les citoyens pourraient construire leur jugement ?
Le second danger est le plus grave, et il ne dépend même pas du succès des manipulations. D’ailleurs, la manipulation politique existe depuis la nuit des temps.

Restons précis sur le premier. En 2024, après les scrutins britannique, français et européen, l’Alan Turing Institute ne trouvait aucune preuve que l’IA ait changé un résultat. Pour nos municipales de mars 2026, Viginum a caractérisé quatre ingérences numériques étrangères, à la portée très limitée. Crier au loup ne servirait personne. Mais la Roumanie a montré qu’un scrutin pouvait se jouer sur ce terrain : en décembre 2024, sa Cour constitutionnelle a annulé le premier tour de la présidentielle, après des soupçons d’ingérence et de manipulation algorithmique sur TikTok.

Le vrai risque est l’érosion. Une élection suppose un monde commun : des faits admis, des propos publics, des adversaires qui peuvent se répondre. Le micro-ciblage retire ce terrain, car ce qu’un candidat dit à un électeur, personne d’autre ne le voit, donc personne ne peut le contredire. Meta et Google ont certes renoncé à la publicité politique dans l’Union plutôt que d’appliquer le règlement européen entré en application en octobre 2025. Mais la viralité organique échappe à ce texte.

Les contenus synthétiques ajoutent ce que des juristes américains appellent le dividende du menteur. Quand tout peut être faux, on peut fabriquer une fausse vidéo, mais aussi nier une vraie. Voir et entendre ne suffisent plus à établir un fait.

Le droit, lui, arrive tard. Le référé électoral français donne 48 heures au juge, quand une vidéo virale n’a besoin que de quelques heures. Aux États-Unis, deux jours avant la primaire du New Hampshire de janvier 2024, une fausse voix de Joe Biden a incité des électeurs à ne pas voter. Le régulateur américain des télécommunications réclame 6 millions de dollars à son auteur, mais un jury l’a acquitté au pénal en juin 2025.

Le calendrier européen n’aide pas. L’AI Act classe à haut risque les systèmes destinés à influencer un vote, mais depuis le report, ces obligations ne s’appliqueront qu’en décembre 2027, après notre présidentielle. Le signalement des deepfakes s’applique depuis août 2026, sans que la France ait encore désigné par la loi l’autorité chargée de le contrôler.

Garantir la sincérité d’un scrutin se prépare donc avant la crise : marquage technique des contenus synthétiques, publication en temps réel des dépenses numériques de campagne, veille renforcée des autorités électorales. Et aucune loi ne remplacera ce qui fabrique une réalité commune : un journalisme indépendant, un juge respecté, une école qui apprend à vérifier.

Dans votre conclusion, vous affirmez que l’intelligence artificielle n’est pas une fatalité technologique, mais qu’elle relève de choix collectifs et démocratiques. Pourtant, les citoyens semblent largement exclus des décisions qui déterminent la place de ces technologies dans leur existence. N’y a-t-il pas une contradiction fondamentale entre notre idéal de souveraineté populaire et le développement de systèmes qui échappent largement au contrôle démocratique ? Et si vous deviez identifier une seule réforme urgente pour empêcher que l’intelligence artificielle ne devienne un instrument de dépossession des citoyens, laquelle faudrait-il engager immédiatement ?
La contradiction est réelle, mais elle n’a rien de fatal. Aucun citoyen n’a décidé qu’un algorithme trierait sa candidature, noterait son dossier de crédit ou classerait sa demande. Ces choix sont faits par des ingénieurs, des entreprises et des régulateurs, souvent sans délibération publique. J’appelle cela un déficit démocratique technologique : des décisions majeures se prennent hors des enceintes démocratiques, par des acteurs qui ne rendent de comptes qu’au marché.

La souveraineté populaire n’exige pas de voter sur chaque paramètre. Elle exige que les choix structurants soient débattus, imputables et réversibles. C’est ce dernier mot qui presse : plus les infrastructures se consolident, plus il devient difficile de changer de trajectoire. Le Parlement doit monter en compétence et des conventions citoyennes peuvent éclairer les grands arbitrages. Mais ces chantiers prendront du temps.

S’il ne fallait engager qu’une réforme, ce serait un droit opposable au réexamen humain. Toute personne visée par une décision significative, prise ou orientée par un algorithme, devrait pouvoir le savoir, en connaître les raisons et obtenir qu’un être humain qualifié réexamine son dossier, avec accès aux informations et pouvoir réel de modifier ou d’annuler la décision.

Le droit actuel s’en approche sans l’atteindre. Le RGPD vise les décisions fondées exclusivement sur un traitement automatisé, alors que beaucoup de systèmes se contentent d’orienter un agent qui valide. L’AI Act ouvre un droit à l’explication pour les systèmes à haut risque, pas un droit au réexamen. La France peut instaurer ce droit dès maintenant pour ses administrations et ses services publics, sans attendre Bruxelles ni un traité mondial, puis le porter au niveau européen pour les entreprises.

On objectera le coût, et il est réel. Mais un système dont on ne peut pas assumer le réexamen n’était pas prêt à être déployé. Ce droit entraîne d’ailleurs tout le reste : pour réexaminer, il faut comprendre, et pour comprendre, il faut documenter et garder des agents compétents.

« Quand la loi court derrière l’IA. L’intelligence artificielle et le retard législatif », Renaud Hée.