Fooling Computer Vision with Noise

Gepostet vor 1 Jahr, 1 Monat in #Misc #Tech #AI #Coding #FaceDetection

Share: Twitter Facebook Mail

Adversarial Images sind Bilder, die mit einem Noise-Filter moderne Computer Vision-Systeme verarschen können. Ein Katzenbild wird mit ein paar kaum sichtbaren Artefakten so für einen Rechner zur Boa Constrictor, oder eine Gottesanbeterin mutiert zu ’nem Strauß:

mantis

Diese Noise-Filter kann man auf jedes Bild anwenden, womit dann eben nicht nur Katzenbilder in Zeugs mutieren, sondern alle Bilder. Man könnte, zum Beispiel, unschuldige Bilder von grünen Wiesen bei Facebook hochladen und die künstliche Facebook-Intelligenz darin Bilder von Rihanna sehen lassen, oder Katzenbilder an einem überwachten öffentlichen Platz aufhängen und in diesen Bildern dann, sagen wir mal, eine Kalaschnikov noisefilterverstecken, die dann nur die Überwachungs-AI sehen können.

mushroom

Das alles ist schon faszinierend genug. Compuvisionwizard Samim hat nun dieses Prinzip auf einen Algorithmus angewandt, der auf Mangas trainiert wurde und Copyrightverstoßtendenzen einschätzen kann, der also die Wahrscheinlichkeit einer Urheberrechtsverletzung in einem Bild berechnet.

The Illustration2Vec model has the ability to predict copyright tags. One could say, It has memories of copyrighted content. A fascinating way to explore convolutional networks is deepdream. This experiment dreams with the Illustration2Vec model and turns everyone into a Manga.
Questions raised: Are the generated images copyright infringing? Can the copyright detection bots of large manga sites (or disney) be fooled easily?

Das Ergebnis hatte ich bereits ohne Kontext vor ein paar Tagen gebloggt: Neural Network dreams of Manga-Trump.

wolf

Algorithm watching Wolf of Wallstreet

Tolles Computervision-Experiment von Støj: An algorithm watching a movie trailer: „A program removing everything but the objects it recognises when…

C2OE_6lXgAEw1Ty

Neural Enhance with creepy artificial Artifacts

Mario Klingemann (Vorher auf NC: Video-Frames sorted by Audio, Typographic Gears) hat einen Algorithmus für künstliche Artefakte gebastelt, die die…

captcha

Miniature-Playground for Captcha-Solving AIs

„I'm not a Robot“ my ass. Mini World of Bits ('MiniWoB') is a benchmark for reinforcement learning agents who interact…

panic

How To build a Marvin the Depressed Reddit Bot in Python

Die Grünen fordern ja eine Transparenzpflicht für Social Bots. Ich hoffe inständig, dass jemand einen angemessenen Marvin-Bot für die Grünen…

nnnames

Neural Network Names from the Future

Nate Parrott hat ein Neural Network auf 7500 Vornamen trainiert und generiert nun neue Namen aus der Zukunft, inklusive „…

b00a

Text 2 Bird

Neural Networks generieren Vögel aus Textbeschreibungen in 256x256 Pixeln (das nennen AI-Forscher „High Res“, haha). Die Methode sah qualitätsmäßig vor…

Style-Transfer für Audio

Dmitry Ulyanov und Vadim Lebedev mit einem ersten Ansatz für Style Transfer für Audio oder anders formuliert: Neural Network machen…

ram_01

Mechanical Sand-RAM

Schöne Arbeit von Ralf Baecker, ein mechanischer RAM, der Binärdaten mit Sandkörnern schreibt und damit ein bisschen Voodoo ausrechnet: Random…

fly

Fly AI

Installation von David Bowen, in der eine Künstliche Intelligenz/ein Machine Learning-Algorithmus über das Schicksal einer Fliegenkolonie entscheidet. Brundle-Fly is not…

homer

Homer Simpson gezeichnet mit dem Problem des Handlungsreisenden

Jack Morris hat einen Algorithmus programmiert, der ihm Vektorgrafiken und Simpsons in Punktierungen umwandelt und auf diese dann das Problem…

Atari 2600-Emulator in Minecraft

Atari 2600-Emulator in Minecraft

Impressive: „I built an Atari 2600 Emulator in vanilla Minecraft using a couple thousand command blocks.“