Fooling Computer Vision with Noise

Gepostet vor 1 Jahr in Misc Tech Share: Twitter Facebook Mail

Adversarial Images sind Bilder, die mit einem Noise-Filter moderne Computer Vision-Systeme verarschen können. Ein Katzenbild wird mit ein paar kaum sichtbaren Artefakten so für einen Rechner zur Boa Constrictor, oder eine Gottesanbeterin mutiert zu ’nem Strauß:

mantis

Diese Noise-Filter kann man auf jedes Bild anwenden, womit dann eben nicht nur Katzenbilder in Zeugs mutieren, sondern alle Bilder. Man könnte, zum Beispiel, unschuldige Bilder von grünen Wiesen bei Facebook hochladen und die künstliche Facebook-Intelligenz darin Bilder von Rihanna sehen lassen, oder Katzenbilder an einem überwachten öffentlichen Platz aufhängen und in diesen Bildern dann, sagen wir mal, eine Kalaschnikov noisefilterverstecken, die dann nur die Überwachungs-AI sehen können.

mushroom

Das alles ist schon faszinierend genug. Compuvisionwizard Samim hat nun dieses Prinzip auf einen Algorithmus angewandt, der auf Mangas trainiert wurde und Copyrightverstoßtendenzen einschätzen kann, der also die Wahrscheinlichkeit einer Urheberrechtsverletzung in einem Bild berechnet.

The Illustration2Vec model has the ability to predict copyright tags. One could say, It has memories of copyrighted content. A fascinating way to explore convolutional networks is deepdream. This experiment dreams with the Illustration2Vec model and turns everyone into a Manga.
Questions raised: Are the generated images copyright infringing? Can the copyright detection bots of large manga sites (or disney) be fooled easily?

Das Ergebnis hatte ich bereits ohne Kontext vor ein paar Tagen gebloggt: Neural Network dreams of Manga-Trump.

Tags: AI Coding FaceDetection

Atari 2600-Emulator in Minecraft

Atari 2600-Emulator in Minecraft

Impressive: „I built an Atari 2600 Emulator in vanilla Minecraft using a couple thousand command blocks.“

code

Gomix – Code-Remix-Environment for building Bots and Web-Apps

FogBugz, die Macher von Stack Overflow und Trello, haben eine neue Coding-Plattform online gestellt: „Gomix is the easiest way to…

A screenshot of New Zealand man Richard Lee's passport photo rejection notice, supplied to Reuters December 7, 2016.   Richard Lee/Handout via REUTERS

„Racist“ Algorithm tells Asian to open his eyes

Ein „rassistischer“ Gesichtserkennungs-Algorithmus verweigert den Passbild-Upload eines Asiaten wegen angeblich geschlossener Augen. Richard Lee's attempt to renew his passport was…

Amazon works on killing billions of Jobs because Duh.

Amazon works on killing billions of Jobs because Duh.

Welcome to Amazon Go der Zukunft von alleine hierzulande über einer Million Jobs im Einzelhandel, ersetzt durch automatisierte Distribution, Konsum-Überwachung…

algo1

Algorithmic Nicolas Cage/Taylor Swift Face-Swaps

Iryna Korshunova, Wenzhe Shi, Joni Dambre und Lucas Theis haben einen Algorithmus für FaceSwaps programmiert und zur Illustration ihrer Methode…

c1

█ Blackout █ Generative Censorship-Poetry

█ Blackout █ ist Liza Dalys Beitrag zum NaNoGenMo 2016 (National Novel Generation Month, das AlgoPoetry-Äquivalent zum NaNoWriMo), ein Algorithmus…

sat

Neural Network Satellite-Images from Doodles

Invisible Cities, ein Neural Network, das Satellitenbilder aus Gekritzel generiert. Funktioniert so ein bisschen wie Style-Transfer, nur für Satellitenpics. In…

slack-header

Slack für C64

Endlich ein vernünftiger Slack-Client: „Team communication for the 21st century… now backwards compatible with 1985!“

ww

Westworld Version 4.5.2 Patch Notes

McSweeney mit dem ReadMe.txt des letzten Westworld-Updates. Die Hosts haben jetzt größere Hüte, die besser riechen. Ein paar Favs: GENERAL…

birdsounds

Google A.I. sortiert Vogelgesang

Google hat unter AI-Experiments ’ne Spielwiese für Machine Learning und AI eingerichtet. Ein paar der Experimente kannte ich bereits von…

obama

Adobe Voice-Generator formuliert neue Worte aus Stimmaufnahmen

Adobe hat vor zwei Tagen auf seiner Max Conference neben AI-Schnickschnack für seine CreativeCloud auch ein neues Tool namens VoCo…