They can ID by the Pixels

Gepostet vor 10 Monaten, 20 Tagen in #Science #Tech #AlgoCulture #BigBrother #Privacy #Security

Share: Twitter Facebook Mail

img

Vor einem Monat bloggte ich über ein Paper, in dem sie ein Verfahren vorstellten, um Verpixelungen von Schriftzeichen zu umgehen und eigentlich wegen Privacy- oder sonstigen Bedenken zensierte Text-Teile lesbar zu machen. Ein ähnliches Verfahren haben jetzt Wissenschaftler der Uni Texas für Bilder und Portraits vorgestellt.

Ein Neural Network muss dazu vorher mit Fotos auf die Gesichter der Zielperson trainiert werden (in Zeiten von Social Media und Überwachungskameras überall dürfte Material für so ungefähr jedem ziemlich leicht zu bekommen sein), das errechnet dann die Identität von eigentlich anonymisierten Personen auf Bildern mit einer Erfolgsquote von bis zu 95%, abhängig vom Quellenmaterial. Tja.

The Register: Pixellation popped: AI can ID you, even after PhotoShop phuzzing, Paper: Defeating Image Obfuscation with Deep Learning

In a paper at Arxiv, Richard McPherson and his collaborators (Reza Shokri and Vitaly Shmatikov of Cornell Tech), say pixellation (mosaicing), blurring (as used in YouTube) and even encrypting JPEG coefficients (a scheme called P3, “Privacy Protecting Photo sharing”) can recover image thought protected. They believe they can “train artificial neural networks to successfully identify faces and recognize objects and handwritten digits even if the images are protected using any of the above obfuscation techniques”. They claim results between 50 per cent and as high as 95 per cent on different datasets and different obfuscation types.

Their AI doesn't need a human operator isn't needed to point out important features: “we do not need to specify the relevant features in advance. We do not even need to understand what exactly is leaked by a partially encrypted or obfuscated image. Instead, neural networks automatically discover the relevant features and learn to exploit the correlations between hidden and visible information”, they write.

The only difficult part, in dealing with photos, is that the attacker would need to trawl social media for a “set of possible faces that may appear in a given photo”.

Cellular Automata Cube

Cubes.io: Conways Game of Life als 3D-Spielzeug mit Cubes und Spheres und Schnickschnack als Evolution-Nullpunkt, von wo aus die ganzen…

Neural Network-Faces synched to Music

„My first attempt to map a song made by @kamptweets onto GAN generated proto-faces.“ Bohemian Rhapsody next. The Three Nightingans.…

Visual AI-Spaces Auto-Pilot

Ich habe schon ein paar mal über Mario Klingemanns Arbeiten hier gebloggt, derzeit jagt er Neural Networks durch Feedback-Loops und…

Synthesizing Obama from Audio

Im Mai bloggte ich über ein damals noch nicht veröffentlichtes Paper zur SigGraph2017, in dem sie eine Methode für generative…

Generative Pearls

Cool fractal and generative art by Julien Leonard. I dig his explanation from his about-page: „I create algorithms that connect…

Transparent Lockpick-Training-Set

Gestern für nen Dreißiger bestellt, weil ich mich schon mehr als einmal ausgesperrt habe und Schlüsseldienst zu teuer is: Lock…

Moarph

Mario Klingemann does some weird shit again with CycleGAN Feedback Loops (Neural Networks feeding their results back to each other).…

Floral Algorithm dreams of Dinosaurs

Chris Rodley (Twitter) hat seinen Styletransfer-Bot mit Blumen gefüttert und auf Dinosaurier angesetzt.

3D-Rendering accepted as ID-Photo

Herr Raphaël Fabre hat ein 3D-Rendering als Passfoto eingereicht und ist damit durchgekommen. An den Haaren hätten sie's eigentlich erkennen…

3D-Visualized Typography-Ideaspace

Ich habe schon einige AI-Visualisierungen von Fonts gesehen, also sortierte Abbildungen des visuellen Idea-Space der Zeichensätze (also genau wie Skateboards…

Neural Network sorts Vibrators

Sabrina Verhage trainierte ein Neural Network auf Vibratoren und sortierte sie dann nach visuellen Merkmalen wie Farbe, Form, Pimmelrealismus und…