Le motif généré par l'IA vous cache des caméras de surveillance—y compris Flock

Bill Swearingen a passé l'année dernière à réaliser une expérience encore et encore depuis chez lui à Kansas City, où il a cofondé le meetup de sécurité SecKC. Après environ 31 millions de tests, il affirme qu'il peut produire des motifs à la demande qui cachent tout ce qu'ils couvrent des logiciels de détection intégrés dans les caméras Flock---le système de surveillance controversé déployé à travers l'Amérique.

Il l'a montré en public pour la première fois vendredi à Def Con, travaillant avec la chaîne YouTube Donut Media pour couvrir une Toyota Yaris de 2009 avec l'un de ses nouveaux motifs et la faire passer devant une caméra Flock.

"Nous avons prouvé que c'était efficace," a déclaré Swearingen à TechCrunch, bien qu'il ait dit que les roues étaient un défi. Donut Media a déclaré que la vidéo de la démonstration sera publiée dans les prochaines semaines.

Le motif ne rend pas la caméra aveugle. Les images continuent d'être enregistrées normalement, et un humain regardant l'écran voit une voiture. Ce qui est rompu, c'est la couche supérieure---le modèle de détection d'objets qui décide "c'est un véhicule, c'est une plaque, enregistre-le."

Donc, en gros, alimentez un détecteur IA avec suffisamment de bruit visuel conçu contre ses propres mathématiques et il n'enregistre rien. La voiture redevient une aiguille dans une botte de foin.

C'est de l'apprentissage machine adversarial, et cela fonctionne parce que la vision par ordinateur ne voit pas ce que vous voyez. Un enveloppement qui se lit comme un design graphique bruyant pour une personne peut ne rien signifier du tout pour un classificateur.

Swearingen l'a construit avec un modèle d'apprentissage par renforcement qui évalue ses propres devoirs. Le motif est détecté, le modèle s'ajuste, essaie à nouveau---ce qu'il a décrit comme enseigner au modèle "comment peindre." Il génère maintenant de nouveaux motifs chaque minute, et il garde les plus forts hors ligne afin que les fournisseurs de caméras ne puissent pas s'entraîner contre eux.

"La vie privée est un droit fondamental," a-t-il déclaré, qualifiant les motifs de moyen pour les gens de "choisir de ne pas être suivis." Il a dit que l'idée a pris forme l'année dernière lorsqu'il voulait assister à une manifestation et s'inquiétait que les caméras enregistrent tout le monde qui se présentait.

La longue traîne de la dissimulation aux machines

Les gens improvisent contre les systèmes de détection depuis des années, généralement avec des solutions de quincaillerie. Des activistes de San Francisco ont mis des cônes de circulation sur les capots des robotaxis Waymo et Cruise pour les immobiliser, une exploitation qui n'avait besoin d'aucun code.

Lors des raids d'immigration de Los Angeles l'année dernière, les manifestants sont allés plus loin et ont incendié plusieurs Waymos. Des masques, des capuches et des casquettes à bords restent la norme sur les lignes de protestation. Des marques de vêtements adversariaux vendent des imprimés déroutants pour le visage depuis des années, et des lunettes anti-reconnaissance sont arrivées avec peu de preuves qu'elles soient efficaces.

Ce qui distingue le projet de Swearingen, qu'il appelle noRecognition, c'est la liste cible. Swearingen a testé contre les piles spécifiques en large déploiement, et Flock est celle qui attire l'attention. L'entreprise fait face à un retour de bâton croissant au Capitole, et des documents internes montrent qu'elle a proposé un plan pour transformer 350 000 caméras de tableau de bord Uber et Lyft en une flotte de scan de plaques en mouvement.

Des lecteurs automatisés ont déjà arrêté des conducteurs innocents sous la menace d'une arme en raison de mauvaises correspondances, et les immigrants et les manifestants continuent d'être pris dans le filet d'IA de l'ICE. Les législateurs pressent Meta concernant la reconnaissance faciale dans ses lunettes intelligentes sur une voie parallèle, donc toute mesure légale pour lutter contre la technologie de détection automatique est étudiée par les passionnés de la vie privée.

Le projet noRecognition de Swearingen mène une campagne de financement participatif pour financer des marchandises précoces---des T-shirts et des sweat-shirts maintenant, des skins de véhicules plus tard. Swearingen a déclaré que l'objectif est une résolution suffisamment élevée pour fonctionner à distance et un design suffisamment bon pour que les gens veuillent réellement le porter.

Conduire une voiture enveloppée sur des routes publiques est une question légale en soi, et les lois sur l'obstruction des plaques varient selon les États. Les motifs couvrent la carrosserie, pas les plaques.

"Chaque échec améliore mon modèle, et donc [les motifs] continuent de s'améliorer de mieux en mieux," a déclaré Swearingen.

Ce contenu est fourni à titre informatif uniquement et ne constitue pas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, promotions en ligne ou informations mentionnées ici ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, trader ou effectuer toute autre opération sur des actifs crypto. Les actifs crypto sont très volatils et peuvent entraîner des pertes. La disponibilité des services, produits et événements liés à WEEX peut varier selon les régions. Veuillez vous assurer que votre participation respecte les lois et réglementations locales applicables.