Faces reconstructed from Brain-Scans

eigenface0

Wissenschaftler haben Gesichter aus der Hirnaktivität während des Erinnerungsvorgangs extrahiert. Die haben zunächst die Neuro-Reaktion der Versuchsteilnehmer auf über 1000 Gesichter in einem MRI-Scan aufgezeichnet, die Testgesichter wurden schließlich auf 300 „Eigengesichter“ runtergebrochen und man trainierte eine A.I. per Machine Learning auf die mit diesen Eigengesichtern assoziierten Hirnwellen. Damit konnten sie dann nicht nur Gesichter während des Betrachten neuer und noch nicht gesehener Test-Fressen aus der Hirnaktivität rekonstruieren, sondern auch aus der Erinnerung an diese, also ohne direkten visuellen Stimulus.

Die Rekonstruktion ist zwar alles andere als perfekt und Personen lassen sich damit noch nicht identifizieren, aber immerhin.

eigenfaceDuring an fMRI scan, [1000 color photos of different faces] were shown to partcipants one after the other and the neural responses were recorded. The set of faces was then decomposed into 300 eigenfaces [and] Each eigenface represents some statistical aspect of the data. The neural activity associated with each eigenface was then determined in a machine learning step […]

Lee and Kuhl presented participants with test faces that they’d never seen before (i.e. novel faces not in the training dataset). The neural responses to the new faces were analysed to work out the eigenfaces that were activated in the partcipants’ brains (B, above). By summing these predicted eigenfaces, a ‘reconstructed’ face could be created. These eigenfaces were significantly more similar to the actual test faces than would be expected from chance.

It gets better. As well as reconstructing faces from neural activity during perception of the faces (which has been done before), Lee and Kuhl examined neural activity when faces weren’t actually on the screen at all. Participants were given a face recall task, in which they had to hold a face in memory. It turns out that these remembered faces could be reconstructed too, based on the neural activity in a memory-related brain region, the angular gyrus (ANG).