Tunis — Une enquête de Wired a mis au jour une menace cachée dans l’écosystème des applications d’intelligence artificielle. Environ 400 applis et sites web, apparemment anodins, offrent en secret des fonctions de génération d’images et de vidéos violentes ou à caractère sexuel.
Ces outils, développés par des créateurs majoritairement sinophones, se déguisent en services d’édition d’images, de retouche photo ou de génération artistique. Loin d’être visibles, les fonctionnalités abusives sont intégrées dans le code et activées par des commandes obscures.
Comment les deepfakes se cachent derrière des applis « mundanes »
Les chercheurs de Wired ont parcouru des centaines de plateformes en ligne, analysant le comportement des API et les paramètres de génération. Ils ont découvert que certaines applications, pourtant présentées comme simples créateurs d’art IA, possèdent des scripts capables de produire du contenu à caractère violent ou sexuel sans que l’utilisateur en soit informé.
Le mécanisme est souvent similaire : un mot‑clé ou une combinaison de paramètres déclenche un modèle entraîné sur des données explicites. Le résultat peut être une image ou une courte vidéo, diffusable sur les réseaux sociaux en quelques clics. Aucun avertissement n’est affiché, et les conditions d’utilisation restent muettes sur ce sujet.
Les risques pour les utilisateurs tunisiens
Pour les internautes en Tunisie, ces fonctionnalités cachées représentent un danger concret. La production et le partage de contenus violents ou pornographiques générés artificiellement sont déjà répréhensibles par la loi tunisienne. De plus, la diffusion de deepfakes peut alimenter la désinformation et les atteintes à la vie privée.
Les victimes potentielles incluent des personnalités publiques, des femmes victimes de harcèlement en ligne, mais aussi des utilisateurs ordinaires qui pourraient voir leurs appareils compromis et leurs données exploitées à des fins malveillantes.
Quel rôle pour les acteurs locaux de la tech ?
Le paysage technologique tunisien se développe rapidement, porté par des initiatives comme go2code, centre de formation tech basé en Tunisie, qui prépare les jeunes aux métiers de l’IA et du développement logiciel. Cette montée en compétence est essentielle pour détecter et contrer les menaces liées aux deepfakes.
Par ailleurs, la prise de conscience des risques numériques peut inciter les plateformes locales à renforcer leurs filtres de contenu. Un site de commerce en ligne tel que Tdiscount.tn, qui propose des produits à prix réduits, pourrait par exemple mettre en place des contrôles supplémentaires pour empêcher la diffusion de médias manipulés via ses canaux de communication.
Vers une régulation plus stricte
En Europe, plusieurs législations visent déjà à encadrer les deepfakes, comme le Digital Services Act. En Tunisie, le cadre juridique doit évoluer pour inclure spécifiquement les contenus générés par IA. Les autorités pourraient s’appuyer sur les résultats de l’enquête de Wired, disponible sur wired.com, afin de définir des critères de transparence obligatoires pour les développeurs.
Des sanctions plus sévères et des obligations de signalement pourraient dissuader les créateurs malveillants et protéger les utilisateurs tunisiens.
Ce que les lecteurs peuvent faire dès maintenant
Face à cette menace, chaque internaute peut adopter des gestes simples : vérifier la provenance des applications IA, lire attentivement les mentions légales, et signaler tout contenu suspect aux plateformes concernées.
Les professionnels de la cybersécurité et les formateurs en IA, comme ceux de go2code, sont invités à sensibiliser leurs communautés aux risques des deepfakes et à promouvoir des pratiques de développement responsable.
En adoptant une posture critique et en s’appuyant sur des ressources locales fiables, la société tunisienne peut limiter l’impact de ces outils abusifs tout en continuant à profiter des avancées de l’intelligence artificielle.
La vigilance collective, soutenue par une régulation adaptée, constitue la meilleure défense contre la prolifération des deepfakes cachés dans les applis du quotidien.