Qu’on me donne des photos du plus honnête homme, j’y trouverai de quoi le faire pendre

Billet écrit au saut du lit ce matin…

On attribue souvent au Cardinal de Richelieu cette phrase¹ : Qu’on me donne 6 lignes écrites de la main du plus honnête homme,j’y trouverai de quoi le faire pendre.

Aujourd’hui, il y’a plus simple : quelques photos et hop. Si cela n’est pas nouveau, c’est la manière de fabriquer ces preuves qui est plus rapide et originale en recourant à la merveilleuse fée IA.
Ça ouvre de nouvelles perspectives…

Cet article m’a troublé car c’est la porte ouverte à toutes les dérives. Thanks to AI, it’s probably time to take your photos off the Internet | Ars Technica

Et comme le rappelle l’auteur de l’article, nous laissons des tas de photos sur le net, clichés qui peuvent devenir la matière première pour nous mettre en situation dans des séquences… étranges !

Même plus la peine de vous suivre avec des téléobjectifs pour essayer prendre de capturer des clichés compromettants, il suffit de… les fabriquer comme des preuves de votre dévoiement.

Je laisse à votre imagination le soin de lister les usages les plus vils, de salir une réputation (package corbeau), s’inventer des vacances paradisiaques (package mytho, il y’a une version influenceur sans sortir de son village), un passé dans un autre pays (package espion), etc.

Le problème n’est pas la technique (qui semble épatante) mais bien les usages (pour soi ou contre soi).

On avait déjà quelques séquences/films délirants où l’on pouvait faire dire n’importe quoi au personnage en lui prêtant d’autres propos.

Là, la multiplicité des clichés fabriqués (car sans paroles, paradoxalement) peuvent être dévastateurs.

Comme le dit l’article de Ars Technica :

Using nothing but those seven images, someone could train AI to generate images that make it seem like John has a secret life. For example, he might like to take nude selfies in his classroom. At night, John might go to bars dressed like a clown. On weekends, he could be part of an extremist paramilitary group. And maybe he served prison time for an illegal drug charge but has hidden that from his employer.

C’est à dire (…merci deepl) : « En utilisant uniquement ces sept images, quelqu’un pourrait entraîner l’IA à générer des images qui donnent l’impression que John a une vie secrète. Par exemple, il pourrait aimer prendre des selfies nus dans sa classe. La nuit, John pourrait aller dans des bars habillé en clown. Le week-end, il pourrait faire partie d’un groupe paramilitaire extrémiste. Et peut-être qu’il a fait de la prison pour une affaire de drogue mais qu’il l’a caché à son employeur. »

Je (nous) laisse réfléchir à ce nouvel usage de l’IA. Et, au risque de me répéter, dans les mains de complotistes…!

Quel monde merveilleux !