TL;DR : un motif rose, orange et vert suffit à faire disparaître l’étiquette « personne » sur une caméra de reconnaissance d’objets. C’est une œuvre, pas un équipement, et son auteur est le premier à le préciser.
Berlin déploie ce mois-ci un projet pilote de vidéosurveillance par IA à Kottbusser Tor : un logiciel qui trie ce que fait chaque passant entre « normal » et « suspect », présenté comme la première caméra légalement autorisée à filmer l’espace public de la ville sans motif particulier.
En réponse, l’artiste Simon Weckert, connu pour avoir fabriqué un embouteillage sur Google Maps avec un chariot de téléphones, a conçu Digital Camouflage : une chemise dont l’enchevêtrement de formes vives empêche un système de détection de conclure qu’il a devant lui un être humain. Le motif vient d’une méthode générative d’attaque adverse, et sa formule est celle qu’on oublie souvent : les systèmes de vision n’ont jamais appris ce qu’est un humain, ils ont appris à quoi les humains ressemblent statistiquement sur des millions d’images.
Ce qui rend la démonstration solide, c’est ce que Weckert refuse d’affirmer. Les essais portent sur YOLO, un détecteur open source générique, et il l’écrit noir sur blanc : le travail ne prétend rien sur un système gouvernemental précis, « et c’est précisément le sujet : personne, de l’extérieur, ne peut les tester ». Il ajoute que sa chemise n’est ni un outil pour échapper à la police, ni une promesse d’anonymat, aucun motif ne pouvant venir à bout de tous les systèmes en toutes circonstances.
Le vêtement est vendu, une partie des revenus allant à des organisations de défense des droits numériques. Mais l’objet intéressant n’est pas le tissu : c’est la question posée à ceux qui installent ces caméras. Combien de confiance mérite un système que le public ne peut pas éprouver, et qu’un bout de textile suffit à tromper ?
