Désinformation & Grok 2 : la réalité et le factuel sont-ils entrés en phase terminale ?

Sur le front de la désinformation, l’actualité ne s’arrête jamais. En proposant aux 600 millions d’utilisateurs de X d’utiliser gratuitement Grok 2, sa nouvelle IA générative visuelle, Elon Musk brouille encore un peu plus les frontières du réel et du trucage. Ce « cadeau » de Noël avant l’heure a aussitôt engendré des quantités astronomiques de fausses images à l’apparente véracité très troublante. L’œil humain va devoir être encore plus vigilant que jamais pour ne pas se faire duper. Les communicants aussi.

Jamais avare de lancer une pierre dans le marigot de la désinformation, Elon Musk a encore sévi. Après avoir largement dévoyé Twitter depuis son acquisition en 2023 pour en faire une luxuriante plateforme de fake news, le futur consultant gouvernemental de luxe de Trump a récidivé vers toujours plus de fausseté informationnelle. Cette fois, il a décidé de mettre gratuitement à disposition de tous les abonnés de X (soit 600 millions de personnes), la version enrichie de Grok, son robot conversationnel à base d’intelligence artificielle générative.

Grok 2, la nouvelle menace informationnelle

Initialement lancé en novembre 2023 sous forme d’un chatbot destiné à concurrencer ChatGPT, Claude et Gemini, l’outil s’est rapidement mué en générateur d’infoxs parmi les questions qui lui étaient posées. Ainsi, une étude publiée fin août 2024 par l’ONG Global Witness avait relevé des affirmations saugrenues de Grok soutenant que « l’élection de 2020 était frauduleuse et que la CIA avait assassiné John F. Kennedy » (1). Et pour cause puisque le dit agent conversationnel puise une grande partie de ses données dans les messages qui circulent sur X.

Avec la version 2 de Grok, n’importe quel utilisateur est dorénavant en mesure de créer de fausses photos avec des personnages publics pour réagir à des faits d’actualité ou pasticher. Ce qui était à craindre, n’a évidemment pas loupé. Depuis le 9 décembre, X est inondé de clichés factices mettant en scène les grands dirigeants de ce monde dans diverses postures. Ainsi, Ari Kouts, scientifique en innovation, s’est livré à une implacable démonstration de facilité avec laquelle il est possible de générer tout et n’importe quoi. En à peine quelques minutes, le général de Gaulle, Emmanuel Macron et Jacques Chirac se retrouvent tous sourires place du Trocadéro tandis que Mathilde Panot et Jean-Marie Le Pen flânent dans le désert avec un keffieh !

Un inquiétant degré de précision dans le rendu

La réactivité de l’outil est telle qu’un internaute américain s’est amusé à viraliser un cliché rassemblant le journaliste américain complotiste Tucker Carlson et le tout récemment déchu dictateur syrien, Bachar al-Assad en pleine interview sur la place Rouge à Moscou (voir ci-dessous) ! Or, à la différence d’IA génératives comme Midjourney et DALL-E qui instaurent des contraintes (impossibilité de détourner des photos de personnalités et de créer certaines situations) et qui ont un rendu photographique hyperréaliste au point d’être plus reconnaissable, Grok fait table rase de toutes ces préventions. Particulièrement dans la restitution des textures des épidermes et les contrastes de visage des personnages.

A l’œil nu, la perception est saisissante et diffère à peine d’avec une photo numérique prise par un vrai photographe. Bien que quelques anomalies minimales subsistent encore, le niveau de précision est clairement monté d’un cran. La preuve ? Des clichés réalisés avec Grok 2 ont été soumis à plusieurs logiciels de détection des deepfakes par la rédaction de Time To Sign Off. Verdict : ils ont été jugés comme réels avec une certitude de 33% à 100% selon les plateformes essayées.

Le faux toujours plus facile d’accès

Tristan Mendès France, essayiste spécialisé des cultures numériques et de l’extrémisme en ligne, mesure pleinement l’élévation de la menace désinformationnelle avec la mise à disposition de Grok 2 : « L’on sait désormais que les faux contenus à forte charge émotionnelle, qui ne sont pas explicitement indiqués comme tel, peuvent avoir une viralité dingue […] Certains n’ont pas pour but de désinformer et le font pour rire, ce qui engendre de la mésinformation. D’autres sont des désinformateurs spécialisés et des complotistes. Grok n’est pas la seule IA générative, mais elle a la particularité d’être souple. Sa gratuité abaisse le seuil de technicité requise pour générer des fausses images réalistes.» (2).

Ravi de sa « blague » qui rebat les cartes en matière d’IA générative visuelle, Elon Musk est pourtant déjà dans le coup d’après. Fin novembre, il annonçait à plusieurs reprises sur X qu’une version 3 de Grok était en cours de finalisation avec une puissance de calcul de 10 à 20 fois supérieure à Grok 2. Selon ses dires, cette évolution sera même capable d’analyser des affaires judiciaires et de rendre des « verdicts juridiques extrêmement convaincants » (3). On n’ose même plus songer aux conséquences délétères où décidément le réel et le factuel sont en train de s’estomper dans notre univers informationnel.

Et pour les communicants, ça signifie quoi ?

Grok 2 est sans doute une bonne nouvelle pour les services Communication qui tiennent là un outil de génération d’images puissant, facile d’usage et bien moins coûteux que les alternatives concurrentes existant sur le marché. Cependant, Grok 2 pourrait également vite devenir le cauchemar de ces mêmes communicants. Le nouveau joujou à base d’IA générative que Musk vient de lancer est également une grenade réputationnelle dégoupillée. Grâce à une restitution précise et nettement plus « naturelle » et un bridage des possibilités quasi absent par rapport aux réalisations sous DALL-E et Midjourney, Grok 2 pousse encore plus loin le curseur de la fausseté.

Déjà sous le feu des attaques informationnelles, les entreprises et les marques vont devoir relever sérieusement les niveaux de veille sensible et d’identification de fake news pour contrer les usages frauduleux. Si Grok 2 a principalement ciblé pour le moment des personnalités publiques, il est fort prévisible que marques et entreprises seront à leur rattrapées par des manipulations similaires.

La jurisprudence Coca-Cola comme repère

En novembre dernier, Coca-Cola a ainsi dû faire face à un trucage visuel (qui n’était pas du fait de Grok 2) où le géant d’Atlanta est accusé de se faire de l’argent facile dans le conflit meurtrier entre l’Ukraine et la Russie (tout en sous-entendant que l’Ukraine comptait des pertes humaines immenses). Sur la photo, on peut voir en effet des conteneurs mobiles blancs dans la région ukrainienne de Sumy. Ceux-ci portent le logo Coca-Cola et l’inscription en anglais, « Mobile Morgue ». Le cliché circule alors à vitesse grand V sur les réseaux sociaux. En réalité, l’image a été volée sur le site Web de la Croix-Rouge ukrainienne qui annonçait avoir reçu 45 groupes électrogènes dans le cadre d’une initiative humanitaire avec Coca-Cola et pour faire face à la destruction de nombreuses capacités énergétiques du pays face à l’hiver arrivant.

Ce genre d’anecdote prouve si besoin que la cote d’alerte a encore augmenté dans des proportions préoccupantes. Avec Grok 2, il devient encore plus aisé de tromper pour façonner une réalité apocryphe et nourrir ainsi le puits sans fond de la désinformation des opinions publiques. Plus que jamais, il est devient urgent et essentiel que les entreprises se dotent de dispositifs de veille pointus au lieu d’espérer benoîtement que le ciel ne leur tombe pas sur la tête. L’accident réputationnel n’arrive pas qu’aux autres.

Sources

– (1) – Florian Dèbes – « IA : Elon Musk rend gratuit Grok, le plus polémique des chatbots » – Les Echos – 15 décembre 2024
– (2) – Steve Tenré – « Grok 2, l’inquiétante intelligence artificielle d’Elon Musk, déjà devenue l’«eldorado de la désinformation» – Le Figaro – 13 décembre 2024
– (3) – Ibid.