Stickers to fool Neural Networks

Ich hatte vor ein paar Monaten mal über Love-Stickers gebloggt, mit denen man selbstfahrende Autos angreifen und deren Computer-Vision-Systeme davon überzeugen konnte, statt eines Stoppschildes ein Höchstgeschwindigkeitsschild zu sehen und es gibt bereits seit ein paar Jahren Versuche, Machine Learning mit Noise-Filtern zu überlisten, so dass mit ein bisschen Farbrauschen aus einer Gottesanbeterin auf einmal ein Strauß wird.

Jetzt haben sie das Prinzip kombiniert und Sticker entwickelt, mit denen man jegliches Bild in einen Toaster verwandeln kann. Computer Vision is toast, sozusagen. (via Boing Boing)

We present a method to create universal, robust, targeted adversarial image patches in the real world. The patches are universal because they can be used to attack any scene, robust because they work under a wide variety of transformations, and targeted because they can cause a classifier to output any target class. These adversarial patches can be printed, added to any scene, photographed, and presented to image classifiers; even when the patches are small, they cause the classifiers to ignore the other items in the scene and report a chosen target class.