They can ID by the Pixels

img

Vor einem Monat bloggte ich über ein Paper, in dem sie ein Verfahren vorstellten, um Verpixelungen von Schriftzeichen zu umgehen und eigentlich wegen Privacy- oder sonstigen Bedenken zensierte Text-Teile lesbar zu machen. Ein ähnliches Verfahren haben jetzt Wissenschaftler der Uni Texas für Bilder und Portraits vorgestellt.

Ein Neural Network muss dazu vorher mit Fotos auf die Gesichter der Zielperson trainiert werden (in Zeiten von Social Media und Überwachungskameras überall dürfte Material für so ungefähr jedem ziemlich leicht zu bekommen sein), das errechnet dann die Identität von eigentlich anonymisierten Personen auf Bildern mit einer Erfolgsquote von bis zu 95%, abhängig vom Quellenmaterial. Tja.

The Register: Pixellation popped: AI can ID you, even after PhotoShop phuzzing, Paper: Defeating Image Obfuscation with Deep Learning

In a paper at Arxiv, Richard McPherson and his collaborators (Reza Shokri and Vitaly Shmatikov of Cornell Tech), say pixellation (mosaicing), blurring (as used in YouTube) and even encrypting JPEG coefficients (a scheme called P3, “Privacy Protecting Photo sharing”) can recover image thought protected. They believe they can “train artificial neural networks to successfully identify faces and recognize objects and handwritten digits even if the images are protected using any of the above obfuscation techniques”. They claim results between 50 per cent and as high as 95 per cent on different datasets and different obfuscation types.

Their AI doesn't need a human operator isn't needed to point out important features: “we do not need to specify the relevant features in advance. We do not even need to understand what exactly is leaked by a partially encrypted or obfuscated image. Instead, neural networks automatically discover the relevant features and learn to exploit the correlations between hidden and visible information”, they write.

The only difficult part, in dealing with photos, is that the attacker would need to trawl social media for a “set of possible faces that may appear in a given photo”.