Fooling Computer Vision with Noise

Gepostet vor 1 Jahr, 2 Monaten in #Misc #Tech #AI #Coding #FaceDetection

Share: Twitter Facebook Mail

Adversarial Images sind Bilder, die mit einem Noise-Filter moderne Computer Vision-Systeme verarschen können. Ein Katzenbild wird mit ein paar kaum sichtbaren Artefakten so für einen Rechner zur Boa Constrictor, oder eine Gottesanbeterin mutiert zu ’nem Strauß:

mantis

Diese Noise-Filter kann man auf jedes Bild anwenden, womit dann eben nicht nur Katzenbilder in Zeugs mutieren, sondern alle Bilder. Man könnte, zum Beispiel, unschuldige Bilder von grünen Wiesen bei Facebook hochladen und die künstliche Facebook-Intelligenz darin Bilder von Rihanna sehen lassen, oder Katzenbilder an einem überwachten öffentlichen Platz aufhängen und in diesen Bildern dann, sagen wir mal, eine Kalaschnikov noisefilterverstecken, die dann nur die Überwachungs-AI sehen können.

mushroom

Das alles ist schon faszinierend genug. Compuvisionwizard Samim hat nun dieses Prinzip auf einen Algorithmus angewandt, der auf Mangas trainiert wurde und Copyrightverstoßtendenzen einschätzen kann, der also die Wahrscheinlichkeit einer Urheberrechtsverletzung in einem Bild berechnet.

The Illustration2Vec model has the ability to predict copyright tags. One could say, It has memories of copyrighted content. A fascinating way to explore convolutional networks is deepdream. This experiment dreams with the Illustration2Vec model and turns everyone into a Manga.
Questions raised: Are the generated images copyright infringing? Can the copyright detection bots of large manga sites (or disney) be fooled easily?

Das Ergebnis hatte ich bereits ohne Kontext vor ein paar Tagen gebloggt: Neural Network dreams of Manga-Trump.

./code--poetry

„This website displays a collection of twelve code poems, each written in the source code of a different programming language.…

Pix2Pix: Neural Network Katzen-Compositing als Browsertoy

Schönes Spielzeug von Christopher Hesse, der ein Neural Network auf Bild-Paaren trainiert hat und mit dem man nun Katzen, Schuhe…

Stupid Hacks from Stupid Hackathon Sweden

Vor ein paar Tagen ging der Stupid Hackathon Schweden zu Ende, hier eine Liste aller dort realisierten Projekte. Spontan mein…

Cool Coding Sticker: I hate Programming I love Programming!

I can relate. Gibt's auf Redbubble für 3 Euro. (via Sara Soueidan)

MuscularAnimeGirl[NSFW].jpg = IndustrialMusic.mp3

Cool Bug featuring „a muscular girl“.jpg, anime style („slighly NSFW“ [„it's the only sample I had“ – sure]) and Industrial…

Google Brain does Zoom & Enhance

Vor grob einem halben Jahr bloggte ich über eine Reihe von Papers, die eine neue AI-Anwendung vorstellten: Image Super-Resolution. Die…

NSA-Powerpoint-Styletransfer: Snowden.ppt

Matthew Plummer-Fernandez hat einen Style-Transfer-Algorithmus auf verschiedene NSA-Powerpoint-Slides trainiert und daraus ein paar Snowden-Portraits generiert: Snowden.ppt. Machine Learning style transfer…

PostScript-Malware manipulates Print-Jobs

Fefe hat gestern ein interessantes Sicherheits-Leck verlinkt mit dem lapidaren Satz: „Benutzt hier jemand Postscript-Drucker?“ This post is about manipulating…

Algorithmic Cyclops

Mario Klingemann trainiert wieder irgendwelche Neural Networks die wieder irgendwelche komischen Sachen generieren. Diesmal hat er ’nen Algorithmus auf vintage…

Hieronymus Bosch dreaming of Sesame Street

Chris Rodley dreht nach dem Trump Clan ein paar klassische Gemälde von Picasso und Hieronymus Bosch durch den Sesamstraßen-Neural-Network-Wolf:

Algorithmic Napoleon

/user/vic8760 zieht Jacques-Louis Davids Napoleon Crossing the Alps, MC Escher und die Mona Lisa durch einen FineArt-Style-Transfer. Nice!