Si l’arrivée de l’application chinoise TikTok a bouleversé le marché mondial des réseaux sociaux, celle de l’américaine ChatGPT est appelée à marquer l’histoire de l’intelligence artificielle (IA) et du cyberespace. Dès lors, quelles sont les conséquences de l’irruption dans nos écosystèmes de ces technologies de rupture sur le plan stratégique ?
TikTok aura très rapidement fait de l’ombre aux plate-formes américaines. Décrit par ses détracteurs comme l’un des chevaux de Troie déployés par la Chine, il est aussi considéré comme une application aux effets particulièrement pernicieux « au service de la crétinisation de la jeunesse » par le truchement d’un soft power intensif usant d’actions délétères sur les perceptions de ses utilisateurs, pour subvertir la psyché des jeunes Occidentaux. Une nouvelle version revisitée, en somme, du « lavage de cerveaux » d’antan. L’autre, ChatGPT, est quant à lui envisagé par un certain nombre de spécialistes en IA comme la nouvelle source génératrice de menaces imminentes, à prendre prioritairement en considération.
Quid des réalités en la matière ? Quels sont les enjeux véritables autour de ces applications ? Quid de l’influence réelle ou supposée de certains États au travers de ces applications ?
L’IA, perçue tout à la fois comme facteur de danger et de progrès ?
La plupart des Français ont déjà entendu parler du chatbot ChatGPT de la société OpenAI. Il susciterait des sentiments plutôt positifs chez nos concitoyens, à en croire le dernier sondage d’Ipsos pour Sopra Steria, de mai 2023 (1). En effet, 67 % des Français auraient déjà entendu parler de ChatGPT — une hausse significative par rapport à février, où ce chiffre ne dépassait pas les 50 %. Concernant l’IA au sens large, la majorité des Français sondés (56 %) perçoivent en elle un risque, estimant qu’elle pourrait poser de nouveaux problèmes émergents. Ce sont 44 % des sondés qui voient cependant ces outils comme un facteur de progrès, pouvant ouvrir de nouvelles perspectives positives. En effet, 59 % des Français estiment que ces outils pourraient améliorer leurs conditions de travail dans les emplois qui consistent essentiellement en des tâches répétitives. En définitive, et face aux risques perçus comme inhérents à l’implémentation de cette technologie, 71 % des personnes interrogées souhaiteraient que les entreprises qui les développent soient davantage régulées. À l’inverse, 29 % considèrent qu’il faudrait limiter la régulation de ces sociétés pour permettre l’émergence de grands groupes français et européens.
Plus récemment, le Future of Life Institute, appuyé en cela par d’autres entités, a lancé une pétition mondiale pour demander un moratoire technologique de six mois sur le développement des IA génératives. Cette pause permettrait, selon le Future of Humanity Institute (FHI), de réfléchir plus sereinement à l’arrivée de l’intelligence générale artificielle (AGI — artificial general intelligence) dans un monde qui n’est pas prêt à la recevoir. Elon Musk et quelques centaines de scientifiques se sont associés à cette demande en raison des risques liés à l’emploi, la désinformation, voire des risques de déstructuration et de perte corrélative de contrôle sur notre destinée. Peine perdue, la course à l’AGI est lancée et personne ne l’arrêtera de sitôt, à l’image des précédents moratoires demandés en 2018 par ce même FHI, à l’encontre de la recherche sur des robots armés et sur des systèmes d’armes autonomes. Une démarche vaine car, « cinq ans plus tard, ces systèmes armés semi-autonomes sont développés partout. Ils transforment l’art de la guerre » comme nous le rappelle fort justement le grand spécialiste des drones, Thierry Berthier. Et de conclure : « Les doctrines militaires évoluent en fonction de ces nouvelles armes, sans pause ni moratoire. »
Près de la moitié des tâches administratives seront indubitablement impactées
Dans ce contexte, la banque Goldman Sachs a dernièrement publié un document qui estime d’ores et déjà à 300 millions le nombre de postes que les IA pourraient très rapidement remplacer. Des prévisions à mettre en quinconce avec les très récentes annonces faites par les firmes américaines de la tech, en matière de réduction drastique de leurs effectifs. La banque américaine désigne tout de même la technologie comme « une avancée majeure », puisque de nouveaux emplois pourraient également être créés via l’émergence de ces modèles d’IA générative. Selon cette étude, ces IA pourraient même donner un coup de fouet à la productivité, en augmentant de 7 % le PIB mondial. Parmi les catégories de postes susceptibles d’être les plus touchées, 45 % des tâches administratives et des fonctions support pourraient être opérées par des outils avancés tels que ChatGPT, Midjourney ou Dall·E (2), comme le relatait Les Echos en mars dernier. Les domaines de l’agriculture, de la forêt et de la pêche ainsi que celui des forces armées pourraient être les secteurs les plus sensibles à des automatisations rapides des processus.
Gageons qu’ils ne seront pas les seuls impactés comme le redoute lui-même Sam Altman, l’emblématique patron d’OpenAI, à l’origine de ChatGPT. L’IA peut générer des textes et des images plus vrais que nature, et continue de s’améliorer à une vitesse phénoménale au point de produire des séquences filmées complètes, entièrement « photoréalistes ». Et il faut immédiatement s’en alerter selon le jeune dirigeant : « Nous en avons un peu peur », a-t-il notamment souligné auprès des médias américains — un jeune entrepreneur particulièrement inquiet que ces modèles puissent être utilisés à des fins malveillantes, sur une très grande échelle. Les IA comme ChatGPT pourraient notamment être employés pour générer de faux articles de presse très crédibles. Des dangers notables qu’OpenAI a d’ailleurs déjà soulevés dans un rapport publié en janvier 2023 (3), estimant que « les modèles de langage seront utiles aux propagandistes et vont probablement transformer les opérations d’influence en ligne ». « Une chose qui m’inquiète, c’est que nous ne serons pas les seuls créateurs de cette technologie », lance Altman, « il y en aura d’autres qui ne mettront pas les mêmes limites de sécurité que nous ». On imagine immédiatement que des régimes autoritaires pourront ainsi développer leur propre version de ces modèles génératifs, à l’image du chinois Baidu qui a dévoilé son modèle de langage, inspiré de ChatGPT. Gardons à l’esprit les propos prêtés à Vladimir Poutine, qui aurait déclaré en 2017 (4) que celui qui parviendrait à dominer le secteur de l’IA « deviendrait le maître du monde ». Funeste prévision.
Nos démocraties en péril ont un temps très limité pour s’adapter à des menaces toujours plus sophistiquées
Puisque les IA deviennent continuellement meilleures pour générer du code, elles pourraient aisément être utilisées pour mener des cyberattaques très sophistiquées, à échéances immédiates. Les risques notables de deepfake, de fraudes aux présidents et de phishing vont être augmentés, puisque dopés à l’IA. Autrement dit, un risque de massification des techniques d’attaque les plus pointues, qui seront toutes opérées par des cybercriminels étatiques et paraétatiques déterminés, avec la perspective d’une utilisation des IA pour déstabiliser nos démocraties, à travers l’usage de guerres de l’information infiniment mieux monitorées.
Derrière cette mise en œuvre massive, et le déploiement accéléré de ces dispositifs dans nos écosystèmes sociaux (et même s’ils permettront d’augmenter très sensiblement la productivité des collaborateurs qui pourront ainsi mieux se concentrer sur des tâches à plus haute valeur ajoutée), il faut aussi prendre très au sérieux le risque induit de destruction massive et systémique d’emplois dans toutes les strates de notre société, avec en corollaire la casse sociale que cela suppose. Il s’agit là d’un sujet d’intérêt général qui ne concerne pas uniquement les seuls spécialistes. Il existe parallèlement un risque de concentration des fournisseurs oligopolistiques en IA avec, à la clé, le possible transfert de tout un ensemble de compétences aujourd’hui traitées en interne, mais à des entreprises tierces extérieures ou étrangères.
Dans un autre registre, l’IA pourrait aussi notablement bouleverser nos efforts en matière de cyberdéfense, notamment grâce à des capacités augmentées d’audit de profondeur, encore jamais atteintes à ce jour, dans l’analyse des vulnérabilités. Face à cette massification prévisible des attaques cybercriminelles, la cybersécurité concerne plus que jamais tous les secteurs et tous les types d’entreprises. Nous n’avons plus de temps à perdre.
TikTok, ce loup déguisé en agneau ?
Le 5 mai dernier, la BBC révélait que TikTok avait espionné les déplacements de la journaliste Cristina Criddle, durant plusieurs semaines à l’été 2022, en traquant le compte de son chat (5). Le réseau social chinois souhaitait par ce biais comparer son adresse IP avec celles de ses employés « lanceurs d’alertes », suspectés par la firme chinoise d’avoir parlé à la presse. TikTok, de son côté, a avoué être parfaitement conscient d’avoir « abusé de son autorité » dans le cadre de cette enquête interne. Un tel niveau de traçage n’est pas accidentel selon les nombreux experts consultés. De son côté, ByteDance, la maison mère de TikTok, a déclaré qu’elle « regrettait profondément » ce qui constituait une « violation importante » de son code de conduite, et qu’elle était « déterminée à faire en sorte que cela ne se reproduise plus jamais ». Pour mémoire, des employés de TikTok avaient déjà espionné des journalistes américains en décembre 2022 avec l’objectif identique d’identifier des sources internes.
Considérant la menace TikTok, on se rappellera aussi que l’État américain de l’Indiana avait déposé en décembre 2022 deux procédures contre la plate-forme sociale chinoise (6). L’une d’elles portait sur la capacité présumée de la Chine à utiliser les données issues de TikTok pour espionner, faire chanter ou contraindre certains utilisateurs pour servir les visées de Pékin. Notons qu’il avait été déclaré par TikTok qu’il n’avait jamais été donné au gouvernement chinois un droit d’accès subreptice aux données des consommateurs américains. Soulignons aussi avec un peu de dérision qu’en réalité, en tant que firme soumise au droit chinois, le géant de la tech se doit nécessairement de coopérer dans les faits avec les autorités de Pékin — avec en miroir, ce parallèle qu’un esprit malicieux pourrait également agir en tant qu’Européen, avec les contraintes légales de divulgations auxquelles sont elles-mêmes soumises toutes les grandes plate-formes américaines, en vertu cette fois de la législation spéciale des États-Unis sur leur sécurité nationale, opérées par leurs différentes centrales du renseignement. La poutre et la paille !
De ces deux procédures, la deuxième pointait en outre une inquiétude majeure quant à l’influence que la plate-forme chinoise exerçait sur la psyché des enfants américains. Une première contre une application populaire étrangère, avec des injonctions explicites de changements de pratiques, ainsi que des sanctions civiles pour chaque violation présumée : « Une fois sur la plate-forme, de nombreux enfants sont exposés à des offres incessantes de contenu inapproprié que l’algorithme de TikTok leur soumet de force. Le préjudice qui en a résulté pour les jeunes et la société dans son ensemble a été dévastateur », notent les attendus de l’une des actions en justice engagées, ajoutant que « TikTok est un cheval de Troie chinois, qui se déchaîne sur des consommateurs américains sans méfiance ».
Rappelons que l’annonce faite de ces différentes actions diligentées contre TikTok survient après que plusieurs États américains ont rédigé une législation spéciale visant à interdire l’application sur leur territoire. Il en est de même des États du Texas, du Dakota du Sud et de la Caroline du Sud qui ont été les premiers à interdire l’utilisation de l’application sur les appareils gouvernementaux. Le procureur général de l’Indiana, Todd Rokita, avait en outre accusé la société mère ByteDance, basée à Pékin, d’avoir violé les lois de protection des consommateurs de l’État.
TikTok, une machinerie d’influence particulièrement bien huilée ?
En novembre 2022, déjà, le directeur du Federal Bureau of Investigation (FBI), Christopher A. Wray, avait déclaré sans ambages devant les législateurs américains que Pékin utilisait vraisemblablement TikTok pour contrôler les données et pister les appareils de ses utilisateurs. Selon le FBI (7), la Chine aurait déjà volé plus de données américaines que toutes les autres nations réunies. L’application est particulièrement populaire auprès des jeunes publics, qui ont du mal à détecter les opérations de désinformation. Un Américain sur dix utilise régulièrement TikTok comme source d’information, selon une récente enquête de Pew Research (8). « Nous avons des préoccupations en matière de sécurité nationale, du moins du côté du FBI à propos de TikTok », a indiqué son directeur au U. S. House committee on homeland security, lors de son audience au rassemblement annuel sur les menaces mondiales. Pékin pourrait également utiliser TikTok « pour contrôler l’algorithme de recommandation, qui pourrait être utilisé pour des opérations d’influence s’il le souhaite », selon Wray. Ce dernier a en outre témoigné au Congrès, au côté de la directrice du Centre national contre-terrorisme, Christine Abizaid, et du secrétaire à la Sécurité intérieure, Alejandro Mayorkas. Ce dernier de conclure : « La Chine utilise sa technologie pour incliner le terrain de jeu mondial à son avantage. » Fermez le ban !
Taïwan a depuis interdit TikTok sur les appareils de communication du secteur public (téléphones portables, tablettes et ordinateurs de bureau), car répertorié comme mettant potentiellement en danger la sécurité nationale du pays — une démarche également suivie en Europe où l’application chinoise est frappée d’interdiction par plusieurs gouvernements. Déjà interdit pour les personnels de la Commission européenne, TikTok l’est aussi pour les fonctionnaires du Parlement européen à Bruxelles depuis le lundi 20 mars 2023. Ceci nous rappelle à quel point Bruxelles est une cible de choix pour les États adverses, Russie et Chine en tête.
Cette prohibition ferme de TikTok a rapidement été étendue à d’autres institutions de l’UE : le Conseil et le Parlement européens, le Conseil de l’UE, mais aussi la Cour des comptes européenne. De même pour le Service européen pour l’action extérieure (SEAE), le service diplomatique du haut représentant de l’Union pour les affaires étrangères et la politique de sécurité. Bis repetita concernant cette fois les deux organes consultatifs de l’UE : le Comité européen des régions (CdR) et le Comité économique et social européen (CESE). Cette politique restrictive stricte de l’UE au sujet de TikTok intervient alors que le Digital services act (la nouvelle législation visant à encadrer l’économie numérique), entrera en vigueur cet été pour toutes les grandes plate-formes. Ce règlement européen doit notamment renforcer leur responsabilité à l’égard de leurs utilisateurs et introduire des obligations légales de transparence. En janvier dernier, le commissaire européen au Marché intérieur, Thierry Breton, avait pressé Shou Zi Chew, le PDG de TikTok, d’appliquer l’ensemble des règles issues du règlement européen sur les services numériques (DSA). En cas de non-respect à venir, les sanctions pourraient s’élever à 6 % du revenu ou du chiffre d’affaires annuel de la firme, voire à son éviction du marché européen.
Quand l’UE se mobilise résolument contre TikTok
Le 24 mars dernier, le gouvernement français est allé bien au-delà d’une simple interdiction de TikTok, avec son bannissement de tout un ensemble d’applications dites « récréatives » des appareils professionnels des fonctionnaires d’État (soit 2,5 millions d’employés au total), comprenant en outre les applications américaines Instagram, Twitter, Netflix ou encore Candy Crush. Car, selon le ministre Stanislas Guerini, celles-ci « ne présentent pas les niveaux de cybersécurité et de protection des données suffisants pour être déployées sur les équipements d’administrations ». Les fonctionnaires concernés pouvent toutefois conserver ces applications sur leurs mobiles personnels.
En Belgique, le Premier ministre Alexander De Croo a annoncé, le 10 mars, l’interdiction de TikTok aux employés de l’État fédéral, pour un minimum de six mois, avant qu’une possible réévaluation n’intervienne. Les appareils mobiles personnels ne sont pas visés par la mesure. Au Danemark, après un avis émis fin février 2023 par le Centre pour la cybersécurité rattaché en ligne directe au service du renseignement extérieur, le ministère de la Défense a pris la décision d’interdire à ses employés d’utiliser TikTok sur leurs mobiles professionnels. Une semaine auparavant, les députés et le personnel du Parlement danois avaient fait l’objet d’une très forte injonction, leur recommandant explicitement — en raison d’un fort « risque d’espionnage » — de supprimer l’application chinoise de leurs mobiles de travail. Aux Pays-Bas, si TikTok n’a pas été explicitement interdit, le ministère de l’Intérieur a cependant très fortement déconseillé son usage aux fonctionnaires d’État sur leurs mobiles professionnels, ainsi que toute application émanant de pays tiers, « ayant un programme cybernétique agressif visant les Pays-Bas ou les intérêts néerlandais ». Le 16 mars dernier, le gouvernement britannique a banni TikTok « avec effet immédiat » sur tous les mobiles professionnels de ses collaborateurs. Le Parlement a adopté une mesure similaire le 23 mars, comme le gouvernement écossais ainsi que la Norvège, dont le Parlement a interdit à son personnel l’utilisation de l’application sur les téléphones professionnels, et les appareils ayant un accès au système informatique de l’institution.
Hors UE, les États-Unis ont fort logiquement annoncé, le 28 février dernier, donner 30 jours à l’ensemble des agences fédérales pour supprimer TikTok des mobiles professionnels de leurs employés. La mesure a conjointement été adoptée par le Congrès, le Parlement américain et l’armée. Sur les 50 États que compte le pays, plus de la moitié ont banni l’application des appareils mobiles de leurs collaborateurs. La Nouvelle-Zélande, l’Australie et le Canada ont eux aussi globalement prohibé l’usage de l’application chinoise pour l’ensemble des collaborateurs de leurs institutions. Enfin, en Inde, l’application a été interdite depuis janvier 2021, en plus d’une cinquantaine d’autres applications, toutes chinoises, à l’image du service de messagerie instantanée WeChat — des interdictions strictes qui ont été instaurées sur fond de tensions frontalières récurrentes avec la Chine dans l’Himalaya.
En conclusion, et selon l’expert Thierry Berthier (9), « l’intégration de l’AGI au cœur de nos systèmes démocratiques occidentaux est en passe d’impacter très en profondeur l’ensemble de nos activités humaines, de la production aux services, de l’expertise à l’industrie, et de l’éducation jusqu’à la politique elle-même ». Il en va ainsi quand se referme la vague inexorable d’un changement de paradigme majeur. Nous y sommes !
Notes
(1) IPSOS, Les Français, Chat GPT et l’intelligence artificielle, mars 2023, une enquête réalisée auprès de 1 000 Français les 8 et 9 mars 2023 pour Sopra Steria (https://rb.gy/dqrcn).
(2) Neïla Beyler, « ChatGPT et l’IA menacent 300 millions d’emploi dans le monde, selon Goldman Sachs », Les Échos, 28 mars 2023 (https://rb.gy/ataxz).
(3) Josh A. Goldstein, et al., Generative Language Models and Automated Influence Operations : Emerging Threats and Potential Mitigations, OpenAI, Centre pour la sécurité et les technologies émergentes de l’Université de Georgetown, Observatoire Internet de Stanford, janvier 2023 (https://openai.com/research/forecasting-misuse).
(4) Selon le média d’État russe RT.
(5) Kevin Dachez, « TikTok a espionné une journaliste en utilisant le compte de son chat ! », Phonandroid, 5 mai 2023 (https://rb.gy/7dzff).
(6) Gintaras Radauskas, « TikTok sued in US over China data access », Cybernews, 8 décembre 2022 (https://rb.gy/qbk8y).
(7) Justinas Vainilavicius, « FBI warns of China’s influence over TikTok », Cybernews, 16 novembre 2022 (https://rb.gy/lurj3).
(8) Katerina Eva Matsa, « More Americans are getting news on TikTok, bucking the trend on other social media sites », Pew Research Center, 21 octobre 2022 (https://rb.gy/ltdmo).
(9) Thierry Berthier, « La course à l’IA générale est lancée, avec ou sans moratoire », Atlantico, 4 avril 2023 (https://rb.gy/9cvnv).
Franck DeCloquement