They can ID by the Pixels

Gepostet vor 8 Monaten, 17 Tagen in #Science #Tech #AlgoCulture #BigBrother #Privacy #Security

Share: Twitter Facebook Mail

img

Vor einem Monat bloggte ich über ein Paper, in dem sie ein Verfahren vorstellten, um Verpixelungen von Schriftzeichen zu umgehen und eigentlich wegen Privacy- oder sonstigen Bedenken zensierte Text-Teile lesbar zu machen. Ein ähnliches Verfahren haben jetzt Wissenschaftler der Uni Texas für Bilder und Portraits vorgestellt.

Ein Neural Network muss dazu vorher mit Fotos auf die Gesichter der Zielperson trainiert werden (in Zeiten von Social Media und Überwachungskameras überall dürfte Material für so ungefähr jedem ziemlich leicht zu bekommen sein), das errechnet dann die Identität von eigentlich anonymisierten Personen auf Bildern mit einer Erfolgsquote von bis zu 95%, abhängig vom Quellenmaterial. Tja.

The Register: Pixellation popped: AI can ID you, even after PhotoShop phuzzing, Paper: Defeating Image Obfuscation with Deep Learning

In a paper at Arxiv, Richard McPherson and his collaborators (Reza Shokri and Vitaly Shmatikov of Cornell Tech), say pixellation (mosaicing), blurring (as used in YouTube) and even encrypting JPEG coefficients (a scheme called P3, “Privacy Protecting Photo sharing”) can recover image thought protected. They believe they can “train artificial neural networks to successfully identify faces and recognize objects and handwritten digits even if the images are protected using any of the above obfuscation techniques”. They claim results between 50 per cent and as high as 95 per cent on different datasets and different obfuscation types.

Their AI doesn't need a human operator isn't needed to point out important features: “we do not need to specify the relevant features in advance. We do not even need to understand what exactly is leaked by a partially encrypted or obfuscated image. Instead, neural networks automatically discover the relevant features and learn to exploit the correlations between hidden and visible information”, they write.

The only difficult part, in dealing with photos, is that the attacker would need to trawl social media for a “set of possible faces that may appear in a given photo”.

Heute in Darmstadt: Das Geile Neue Internet – Potential of (visible) Infinite Idea Space

[update] Hier ein Livestream auf Facebook. Heute abend erzähle ich auf dem Webmontag Darmstadt – Born and raised Heiner, gude!…

Chelsea Manning is a free Woman

Chalsea Manning ist frei. Welcome to life and a happy International Day Against Homophobia, Transphobia and Biphobia. 💛❤️💜💙💚 BBC: Chelsea…

Smile-Filtering a Face until there is no Face left to smile-filter

Gene Kogan: „just in case you were wondering, this is what happens when you repeatedly run FaceApp’s smile filter until…

Neural Network dreams your Dreams

Wissenschaftler können bereits seit Jahren Bilder aus Gehirnscans extrahieren, also: Tatsächlich ein Abbild davon schaffen, was wir sehen. Die Resultate…

Neural Network dreams of riding a Train

Tolle Arbeit von Damien Henry: Ein Neural Network, ein sogenannter „prediction algorithm“, der Frames eines Videos „errät“, ausgehend vom jeweils…

4 AI-Obamas learn Algo-Lipsynch from Audio

Seit ich über die neuen Möglichkeiten von Machine Learning bezüglich Computer Vision und der Generation von Bildern schreibe, vor allem…

Daddy Cthulhu Cumshot: Weird Algo-Poetry from repetitive Cut'n'Paste-Autocomplete

Das LanguageLog hat die „psychedellic“ AI-„Dreaming of“-Technik auf Google Translate angewandt und dort regelmäßige Sprach/Zeichen-Muster („Iä! Iä! Iä! Iä! Iä!…

Neural Networks for Character Control

Daniel Holden, Taku Komura und Jun Saito haben ein Neural Network auf Character-Animationen trainiert, mit dem Figuren in Games und…

Predictive Policing for Banksters

Schönes Ding von Sam Lavigne, Predictive Policing für Wirtschaftskriminalität im Finanzsektor, 'ne Robocop-App für Bankster. White Collar Crime Risk Zones…

AI Voice-Cloning

Vor ein paar Monate veröffentlichte Google sein WaveNet, ein auf Stimmen trainiertes Neurales Netzwerk mit einem deutlichen Qualitätssprung gegenüber bisherigen…

Neural Network cooks with Cthulhu

Janelle Shane spielt mit Neural Networks rum und hat eins davon auf Lovecraft trainiert. Dann hat sie das Neural Network…