Fooling Computer Vision with Noise

Gepostet vor 1 Jahr, 4 Monaten in #Misc #Tech #AI #Coding #FaceDetection

Share: Twitter Facebook Mail

Adversarial Images sind Bilder, die mit einem Noise-Filter moderne Computer Vision-Systeme verarschen können. Ein Katzenbild wird mit ein paar kaum sichtbaren Artefakten so für einen Rechner zur Boa Constrictor, oder eine Gottesanbeterin mutiert zu ’nem Strauß:

mantis

Diese Noise-Filter kann man auf jedes Bild anwenden, womit dann eben nicht nur Katzenbilder in Zeugs mutieren, sondern alle Bilder. Man könnte, zum Beispiel, unschuldige Bilder von grünen Wiesen bei Facebook hochladen und die künstliche Facebook-Intelligenz darin Bilder von Rihanna sehen lassen, oder Katzenbilder an einem überwachten öffentlichen Platz aufhängen und in diesen Bildern dann, sagen wir mal, eine Kalaschnikov noisefilterverstecken, die dann nur die Überwachungs-AI sehen können.

mushroom

Das alles ist schon faszinierend genug. Compuvisionwizard Samim hat nun dieses Prinzip auf einen Algorithmus angewandt, der auf Mangas trainiert wurde und Copyrightverstoßtendenzen einschätzen kann, der also die Wahrscheinlichkeit einer Urheberrechtsverletzung in einem Bild berechnet.

The Illustration2Vec model has the ability to predict copyright tags. One could say, It has memories of copyrighted content. A fascinating way to explore convolutional networks is deepdream. This experiment dreams with the Illustration2Vec model and turns everyone into a Manga.
Questions raised: Are the generated images copyright infringing? Can the copyright detection bots of large manga sites (or disney) be fooled easily?

Das Ergebnis hatte ich bereits ohne Kontext vor ein paar Tagen gebloggt: Neural Network dreams of Manga-Trump.

AI Voice-Cloning

Vor ein paar Monate veröffentlichte Google sein WaveNet, ein auf Stimmen trainiertes Neurales Netzwerk mit einem deutlichen Qualitätssprung gegenüber bisherigen…

C64-Demo generates itself from Soundtrack

Gewinnerdemo der Revision 2017 von Linus Akesson, ein C64-Hack in 256 Bytes: A Mind is born. Ich verstehe ja noch…

Binary Keyboard

Nette Spielerei von Chris Johnston: „A two-button backlit mechanical keyboard that types ASCII values, one bit at a time.“ (via…

Neural Network cooks with Cthulhu

Janelle Shane spielt mit Neural Networks rum und hat eins davon auf Lovecraft trainiert. Dann hat sie das Neural Network…

Next Level, photorealistic Style-Transfer

In ihrem neuen Paper stellen Fujun Luan, Sylvain Paris, Eli Shechtman und Kavita Bala eine neue Style-Transfer-Methode vor: Figure 1:…

„Alexa? Are you connected to the CIA?“

„I always try to tell the truth.“ This reminds me of those Guilty-Dog-Videos:

Digital-Uhr in Conways Game of Life

Großartig: Eine Digital-Uhr in John Horton Conways zweidimensionalen zellulären Automaten: Get the design from this gist. Copy the whole file…

AI Brainscans

Graphcore aus Bristol visualisieren künstliche Intelligenzen und Neural Networks: Inside an AI 'brain' - What does machine learning look like?…

A Banana Keytar and more from Stupid Hackathon: Inverted Eyetracker-Pong, Robot Porn Addict or the Shitty Sharpie Tattoo Gun)

Ein weiterer Fav vom Stupid Hackathon NYC 2017, die Banana-Keytar von Amanda Lange. Auch geil: der Twitter-Bot Robot Porn Addiction,…

Dwitter – Social-Network für JavaScript-Remixe

Dwitter, ein Social Network von Andreas Løve Selvik für visuelle Javascript-Experimente in 140 Zeichen mit eingebauter Remix-Option für jedes Code-Snippet.…

Finding Animal-Shapes in Noise

Michael Trott hat im Forum von Wolfram Alpha ein random Noise-Pic generiert, die Verdichtungen und Shapes im Noise isoliert, die…