Un étui en plastique pour liseuse vient de briser la logique des logiciels de blocage d'armes

Un accessoire qui expose une faille politique

Le maker Luke Blackford, basé à Louisville et connu sous le nom de Luke The Maker, a conçu un étui imprimé en 3D pour la liseuse minimaliste Xteink X4 qui ressemble exactement à un pistolet. La coque se place sur l'extérieur de la liseuse avec une découpe pour les boutons. Presser la détente ne fait rien. Il l'appelle le Gundle.

Blackford a publié le design en ligne après l'avoir imprimé en moins de 24 heures. Il a dit à The Verge qu'il ne voulait pas qu'il se répande trop, et il ne l'a toujours pas sorti en public. "Je ne voulais pas qu'il soit si accessible publiquement," a-t-il déclaré. "Je ne voulais tout simplement pas qu'il y en ait des tonnes."

Le Gundle est une blague. Mais il se retrouve au centre d'un vrai combat sur la façon de réguler l'impression 3D. New York et la Californie poussent une législation qui exigerait que toutes les nouvelles imprimantes 3D incluent un logiciel de blocage d'armes. L'idée est de scanner chaque tâche d'impression et d'arrêter tout fichier qui ressemble à une arme à feu ou à une pièce d'arme. L'étui inoffensif de Blackford tombe directement dans la zone grise de détection autour de laquelle ces lois sont construites.

Comment le logiciel de blocage d'armes est censé fonctionner

Les mandats proposés laissent les détails de mise en œuvre à des panels d'experts, mais les approches techniques se répartissent en deux grandes catégories. La première repose sur une base de données de hachage : les designs d'armes connus sont empreints, et l'imprimante vérifie chaque fichier par rapport à cette liste avant d'imprimer. Le problème, comme l'a expliqué Cliff Braun de l'Electronic Frontier Foundation à The Verge, est que ce système est trivialement facile à contourner. Changer une seule ligne du modèle numérique modifie le hachage, rendant l'arme invisible au scanner.

La deuxième approche utilise l'IA pour analyser la géométrie d'un fichier et décider s'il ressemble à une arme. C'est plus sujet aux erreurs. Solomon Diamond, professeur associé d'ingénierie au Dartmouth College, a expliqué que "fonder la technologie de blocage sur la ressemblance visuelle est là où les préoccupations de faux positifs surgissent car un accessoire et une véritable arme à feu fonctionnelle se ressemblent." Il a ajouté que "la ressemblance visuelle pourrait être trompée par l'étui de liseuse en forme de pistolet."

Pourquoi la ressemblance visuelle crée un dilemme inévitable

Tout système qui utilise des indices visuels est confronté à un choix binaire : soit il fixe un seuil élevé et laisse passer de nombreuses vraies armes, soit il fixe un seuil bas et bloque de nombreux objets inoffensifs. Le Gundle est un faux positif parfait. Il ressemble à un pistolet, mais c'est un étui de liseuse. Une IA entraînée sur des caractéristiques visuelles le signalerait presque certainement, même s'il ne présente aucune menace.

"L'intention de la loi n'est pas de bloquer des impressions comme celle-ci, mais je pense que cette impression est un très bon exemple de pourquoi c'est difficile," a déclaré Braun. Diamond a évoqué une troisième option appelée identification géométrique, qui pourrait théoriquement atteindre zéro faux positif