Pour une IA de confiance au service de notre sécurité numérique

Objet

Protéger notre démocratie, nos citoyens et nos enfants face aux risques informationnels et cyber des plateformes numériques grâce à une IA de confiance française et européenne.
Exposé des motifs

Les plateformes numériques occupent aujourd'hui une place essentielle dans notre démocratie, notre économie et la vie quotidienne de nos concitoyens.

Elles permettent une circulation sans précédent de l'information, mais leurs infrastructures, leurs systèmes de recommandation et leurs mécanismes d'amplification peuvent également contribuer à la diffusion massive de contenus trompeurs, de campagnes de manipulation, d'escroqueries, de cybermenaces et de contenus dangereux pour les mineurs.

Le développement rapide de l'intelligence artificielle générative augmente encore ces capacités : création de faux contenus réalistes, deepfakes, usurpations d'identité, automatisation de campagnes d'influence et production massive de contenus trompeurs.

Les travaux de VIGINUM consacrés aux ingérences numériques étrangères lors des élections municipales de 2026 montrent que ces menaces sont désormais concrètes et peuvent viser directement notre débat démocratique.

Le droit européen reconnaît déjà l'existence de ces risques. Le Digital Services Act (DSA) impose notamment aux très grandes plateformes et aux très grands moteurs de recherche d'évaluer et de réduire certains risques systémiques, notamment ceux liés aux processus démocratiques et électoraux, à la désinformation et à la protection des mineurs.

Nous considérons cependant qu'il faut aller plus loin dans la capacité à auditer de manière indépendante les risques produits ou amplifiés par les plateformes.
Cette pétition ne vise ni à interdire les réseaux sociaux ni à instaurer une censure automatisée.

Elle vise à créer une capacité indépendante d'audit des risques systémiques des plateformes, associant intelligence artificielle de confiance, expertise humaine, transparence et contrôle démocratique.

L'IA doit servir à détecter, analyser et documenter les risques ; elle ne doit pas devenir le juge automatique de ce qu'un citoyen a le droit de penser, de dire ou de consulter.
Nos demandes
1. Développer une capacité française et européenne d'IA de confiance

Nous demandons la mise en place d'un cadre français et européen favorisant le développement de systèmes d'IA de confiance indépendants, transparents, auditables et vérifiables, capables d'évaluer les risques systémiques liés au fonctionnement des grandes plateformes numériques.

Ces systèmes devront respecter les principes de transparence, de proportionnalité, de protection des données personnelles, de cybersécurité et de respect des droits fondamentaux.
2. Détecter les risques informationnels

Nous demandons de renforcer les capacités permettant de détecter :

les campagnes coordonnées de manipulation ;
les réseaux de faux comptes et comportements automatisés ;
les opérations d'ingérence numérique étrangère ;
les deepfakes et autres contenus synthétiques utilisés à des fins de manipulation ;
l'amplification artificielle de contenus ;
les manipulations susceptibles d'affecter les processus démocratiques et électoraux.

Ces outils doivent identifier et documenter les risques, et non déterminer automatiquement la vérité d'une opinion politique.
3. Renforcer la protection contre les risques cyber

Nous demandons que l'IA de confiance puisse contribuer à identifier et prévenir :

le phishing et les escroqueries ;
l'usurpation d'identité ;
la diffusion de logiciels malveillants ;
les campagnes automatisées d'attaque ;
les fraudes à grande échelle ;
les manipulations coordonnées de comptes ;
l'exploitation malveillante de vulnérabilités.

Cette capacité devra être coordonnée avec les dispositifs français et européens de cybersécurité existants.
4. Mieux protéger les mineurs

Nous demandons que les grandes plateformes renforcent leurs capacités de prévention et de détection des risques auxquels les mineurs peuvent être exposés.

Il s'agit notamment de mieux prévenir leur exposition à des contenus manifestement dangereux ou inadaptés à leur âge, ainsi que le harcèlement, l'exploitation et d'autres atteintes graves à leur sécurité et à leur bien-être.

Ces dispositifs devront respecter la vie privée des mineurs et le principe de minimisation des données.
5. Auditer les algorithmes et mécanismes d'amplification

Nous demandons de renforcer les possibilités d'audit indépendant des systèmes de recommandation, de publicité et d'amplification des grandes plateformes lorsque ceux-ci peuvent contribuer à des risques systémiques.

Les plateformes doivent pouvoir démontrer, de manière vérifiable, les mesures qu'elles prennent pour identifier, réduire et prévenir ces risques.

L'objectif n'est pas de contrôler les opinions des citoyens, mais de contrôler les mécanismes techniques susceptibles d'amplifier artificiellement ou massivement certains risques.
6. Garantir une supervision humaine et un droit de recours

Nous demandons qu'aucune décision portant atteinte aux droits fondamentaux d'une personne ne puisse être prise sur la seule base d'une décision automatisée de l'IA.

Le principe doit être :

Détection par IA → analyse du risque → éléments de preuve vérifiables → évaluation humaine ou par l'autorité compétente → décision conforme au droit → droit de recours.

L'IA doit assister la décision et non se substituer à la justice, aux autorités compétentes ou au débat démocratique.
7. Garantir transparence et indépendance

Les systèmes d'IA utilisés pour l'audit devront être soumis à des exigences élevées de :

transparence ;
traçabilité ;
auditabilité ;
cybersécurité ;
protection des données ;
évaluation des biais et des erreurs ;
contrôle indépendant ;
supervision humaine.

Les citoyens doivent pouvoir comprendre, dans les limites nécessaires à la sécurité, sur quels éléments une alerte ou une évaluation de risque repose.
Pour une souveraineté numérique française et européenne

La protection de notre espace numérique constitue désormais un enjeu de souveraineté.

La France et l'Union européenne doivent disposer de leurs propres capacités technologiques pour analyser les risques qui affectent leur démocratie, leurs citoyens, leurs entreprises et leurs enfants.

Nous demandons donc que cette politique contribue au développement d'un écosystème européen d'IA de confiance, associant recherche, industrie, cybersécurité, autorités publiques, société civile et experts indépendants.

L'Europe doit pouvoir développer ses propres technologies, capacités d'audit, standards et infrastructures afin de ne pas dépendre exclusivement de solutions contrôlées par des acteurs extra-européens.

Cette démarche doit compléter les dispositifs existants, notamment le DSA, l'AI Act, les autorités nationales compétentes et les capacités françaises de lutte contre les ingérences numériques.
Pour une protection compatible avec nos libertés

Nous refusons toute logique de surveillance généralisée ou de censure automatisée.

La protection de notre démocratie ne peut être obtenue au prix de la liberté d'expression, de la vie privée ou des droits fondamentaux.

Nous demandons que tout nouveau dispositif repose sur quatre principes :

Proportionnalité — Transparence — Supervision humaine — Droit de recours.

L'objectif n'est pas de créer une « police de la pensée ».

L'objectif est de disposer d'outils capables de détecter les risques systémiques, d'alerter les plateformes et autorités compétentes et de permettre une réponse proportionnée et conforme au droit.
Pourquoi agir maintenant ?

Les élections municipales de 2026 ont montré que les opérations d'ingérence numérique peuvent cibler directement le débat démocratique.

La généralisation de l'IA générative, l'automatisation des campagnes numériques, l'augmentation des cybermenaces et l'exposition croissante des mineurs aux plateformes rendent nécessaire une action anticipée.

Nous ne devons pas attendre une nouvelle crise informationnelle, cyber ou sociale pour agir.

À l'approche de l'élection présidentielle de 2027, nous demandons à la France de prendre l'initiative et de porter cette ambition au niveau européen.
Notre demande

Nous demandons au Gouvernement et au Parlement français :

de renforcer le cadre national et européen permettant l'utilisation d'IA de confiance indépendantes et auditables pour évaluer et réduire les risques systémiques des grandes plateformes numériques, dans les domaines de l'information, de la cybersécurité et de la protection des mineurs, tout en garantissant la liberté d'expression, la vie privée, les droits fondamentaux, la supervision humaine et le droit de recours.

Nous demandons que la France porte cette initiative auprès de ses partenaires européens afin de contribuer à construire une souveraineté numérique européenne fondée sur la confiance, la sécurité et les libertés.
Protégeons notre démocratie.
Protégeons nos citoyens.
Protégeons nos enfants.
Protégeons notre espace numérique.
Construisons une IA européenne de confiance.