They can ID by the Pixels

Gepostet vor 3 Monaten, 3 Tagen in Science Tech Share: Twitter Facebook Mail

img

Vor einem Monat bloggte ich über ein Paper, in dem sie ein Verfahren vorstellten, um Verpixelungen von Schriftzeichen zu umgehen und eigentlich wegen Privacy- oder sonstigen Bedenken zensierte Text-Teile lesbar zu machen. Ein ähnliches Verfahren haben jetzt Wissenschaftler der Uni Texas für Bilder und Portraits vorgestellt.

Ein Neural Network muss dazu vorher mit Fotos auf die Gesichter der Zielperson trainiert werden (in Zeiten von Social Media und Überwachungskameras überall dürfte Material für so ungefähr jedem ziemlich leicht zu bekommen sein), das errechnet dann die Identität von eigentlich anonymisierten Personen auf Bildern mit einer Erfolgsquote von bis zu 95%, abhängig vom Quellenmaterial. Tja.

The Register: Pixellation popped: AI can ID you, even after PhotoShop phuzzing, Paper: Defeating Image Obfuscation with Deep Learning

In a paper at Arxiv, Richard McPherson and his collaborators (Reza Shokri and Vitaly Shmatikov of Cornell Tech), say pixellation (mosaicing), blurring (as used in YouTube) and even encrypting JPEG coefficients (a scheme called P3, “Privacy Protecting Photo sharing”) can recover image thought protected. They believe they can “train artificial neural networks to successfully identify faces and recognize objects and handwritten digits even if the images are protected using any of the above obfuscation techniques”. They claim results between 50 per cent and as high as 95 per cent on different datasets and different obfuscation types.

Their AI doesn't need a human operator isn't needed to point out important features: “we do not need to specify the relevant features in advance. We do not even need to understand what exactly is leaked by a partially encrypted or obfuscated image. Instead, neural networks automatically discover the relevant features and learn to exploit the correlations between hidden and visible information”, they write.

The only difficult part, in dealing with photos, is that the attacker would need to trawl social media for a “set of possible faces that may appear in a given photo”.

Tags: AlgoCulture BigBrother Privacy Security

unfoodtruckspecified

Artbot.Space: Twitter-Bot remixt Headlines über algorithmische Kunst

Maria Roszkowska and Nicolas Maigret haben eine Plattform für AI-generierte Konzeptkunst aufgesetzt. Auf Artbot.Space sammelt man die Ergebnisse des Predictive…

A screenshot of New Zealand man Richard Lee's passport photo rejection notice, supplied to Reuters December 7, 2016.   Richard Lee/Handout via REUTERS

„Racist“ Algorithm tells Asian to open his eyes

Ein „rassistischer“ Gesichtserkennungs-Algorithmus verweigert den Passbild-Upload eines Asiaten wegen angeblich geschlossener Augen. Richard Lee's attempt to renew his passport was…

algo1

Algorithmic Nicolas Cage/Taylor Swift Face-Swaps

Iryna Korshunova, Wenzhe Shi, Joni Dambre und Lucas Theis haben einen Algorithmus für FaceSwaps programmiert und zur Illustration ihrer Methode…

c1

█ Blackout █ Generative Censorship-Poetry

█ Blackout █ ist Liza Dalys Beitrag zum NaNoGenMo 2016 (National Novel Generation Month, das AlgoPoetry-Äquivalent zum NaNoWriMo), ein Algorithmus…

unnamed-20-600x400

Face Jagger – Fake „Cyber-Weapon“ auf einer Security Expo

Jakob S. Boeskov hat eine Fake „Cyber-Waffe“ namens Face Jagges auf eine Messe für Security- und Waffenfuzzis geschmuggelt. Er hatte…

sat

Neural Network Satellite-Images from Doodles

Invisible Cities, ein Neural Network, das Satellitenbilder aus Gekritzel generiert. Funktioniert so ein bisschen wie Style-Transfer, nur für Satellitenpics. In…

birdsounds

Google A.I. sortiert Vogelgesang

Google hat unter AI-Experiments ’ne Spielwiese für Machine Learning und AI eingerichtet. Ein paar der Experimente kannte ich bereits von…

pin-extraction-fig-6

Your PIN is blowing in the Wind

Neues Paper von InfoSec-Fuzzies, die eine Methode entwickelt haben, um die PIN-Nummern während der Eingabe am Handy über die Fluktuationen…

bildschirmfoto-2016-11-04-um-18-50-29

Once in a Lifetime-Bot ❤️

Not the same as it ever was: Der Tweetie-Bot How Did I Get Here? von Botferatu, der Lyrics für Talking…

mixed_font

Neural Style Transfer für chinesische Fonts

Interessanter Ansatz für Type-Design: Neural Style Transfer For Chinese Fonts. (via Samim) Bei der Gestaltung von chinesischen Fonts müssen zehntausende…

banklobby_example

Neural Enhance getting sharp

Neues von AI-basiertem Zoom & Enhance (Vorher auf NC: Zoom & Enhance via Neural Network Super Resolution, Neural Network Super…