They can ID by the Pixels

Gepostet vor 5 Monaten, 16 Tagen in #Science #Tech #AlgoCulture #BigBrother #Privacy #Security

Share: Twitter Facebook Mail

img

Vor einem Monat bloggte ich über ein Paper, in dem sie ein Verfahren vorstellten, um Verpixelungen von Schriftzeichen zu umgehen und eigentlich wegen Privacy- oder sonstigen Bedenken zensierte Text-Teile lesbar zu machen. Ein ähnliches Verfahren haben jetzt Wissenschaftler der Uni Texas für Bilder und Portraits vorgestellt.

Ein Neural Network muss dazu vorher mit Fotos auf die Gesichter der Zielperson trainiert werden (in Zeiten von Social Media und Überwachungskameras überall dürfte Material für so ungefähr jedem ziemlich leicht zu bekommen sein), das errechnet dann die Identität von eigentlich anonymisierten Personen auf Bildern mit einer Erfolgsquote von bis zu 95%, abhängig vom Quellenmaterial. Tja.

The Register: Pixellation popped: AI can ID you, even after PhotoShop phuzzing, Paper: Defeating Image Obfuscation with Deep Learning

In a paper at Arxiv, Richard McPherson and his collaborators (Reza Shokri and Vitaly Shmatikov of Cornell Tech), say pixellation (mosaicing), blurring (as used in YouTube) and even encrypting JPEG coefficients (a scheme called P3, “Privacy Protecting Photo sharing”) can recover image thought protected. They believe they can “train artificial neural networks to successfully identify faces and recognize objects and handwritten digits even if the images are protected using any of the above obfuscation techniques”. They claim results between 50 per cent and as high as 95 per cent on different datasets and different obfuscation types.

Their AI doesn't need a human operator isn't needed to point out important features: “we do not need to specify the relevant features in advance. We do not even need to understand what exactly is leaked by a partially encrypted or obfuscated image. Instead, neural networks automatically discover the relevant features and learn to exploit the correlations between hidden and visible information”, they write.

The only difficult part, in dealing with photos, is that the attacker would need to trawl social media for a “set of possible faces that may appear in a given photo”.

Automatic Handgun Detection via Machine Learning

The latest Step into an OCP-approved Ed-209-compatible Future: Automatic Handgun Detection Alarm in Videos Using Deep Learning (PDF). Usage Guide:…

ALF-Trump and other algorithmic Abominations

Großartiger neuer Twitter-Feed von Chris Rodley: Algorithmic Horror – Concept art for horror movies generated by an algorithm mit so…

Algorithmic Shape Collages

Interessantes Paper der Uni Hong Kong über automatisierte Shape Collagen (mit geilem Titel auch): Pyramid of Arclength Descriptor for Generating…

Data Selfie

Ich lasse seit einer Woche das DataSelfie-Plugin von Data X laufen, das Teil dokumentiert und tracks die Datenspuren, die wir…

Cube-Transformation-Bot

Ganz großartiger Bot von Andrew Heumann: Tweet2Form: The Formalist Tweetbot. Das Teil versteht 11 verschiedene Befehle für 3D-Transformationen, führt die…

Cybernetic Serendipity 1968

Nice Walkthrough for the 1968 Cybernetic Serendipity-Exhibition at the Institute of Contemporary Arts in London. Some cool, early, experimental Machine-Typography…

Der Sünden-Bot

Mein Buddy Gregor macht wieder Unfug mit Tweetie-Bots, diesmal eine Metapher auf die panische Scheindebatte über den Angriff der killeralienmutant…

Google Brain does Zoom & Enhance

Vor grob einem halben Jahr bloggte ich über eine Reihe von Papers, die eine neue AI-Anwendung vorstellten: Image Super-Resolution. Die…

NSA-Powerpoint-Styletransfer: Snowden.ppt

Matthew Plummer-Fernandez hat einen Style-Transfer-Algorithmus auf verschiedene NSA-Powerpoint-Slides trainiert und daraus ein paar Snowden-Portraits generiert: Snowden.ppt. Machine Learning style transfer…

PostScript-Malware manipulates Print-Jobs

Fefe hat gestern ein interessantes Sicherheits-Leck verlinkt mit dem lapidaren Satz: „Benutzt hier jemand Postscript-Drucker?“ This post is about manipulating…

Algorithmic Cyclops

Mario Klingemann trainiert wieder irgendwelche Neural Networks die wieder irgendwelche komischen Sachen generieren. Diesmal hat er ’nen Algorithmus auf vintage…