Science: Wie Künstliche Intelligenzen die Menschheit zerstören könnten

Gepostet vor 5 Monaten, 2 Tagen in Misc Tech Share: Twitter Facebook Mail

Aus einem amüsanten Paper von Federico Pistono und Roman V. Yampolskiy von der Uni Louisville: Unethical Research: How to Create a Malevolent Artificial Intelligence (PDF). (via NewScientist)

314_1_morpheus-1In the order of (subjective) undesirability from least damaging to ultimately destructing, a malevolent superintelligence may attempt to:

  • Takeover (implicit or explicit) of resources such as money, land, water, rare elements, organic matter, internet, computer hardware, etc. and establish monopoly over access to them;
  • Take over political control of local and federal governments as well as of international corporations, professional societies, and charitable organizations;
  • Reveal informational hazards [Bostrom, 2011];
  • Set up a total surveillance state (or exploit an existing one), reducing any notion of privacy to zero including privacy of thought;
  • Force merger (cyborgization) by requiring that all people have a brain implant which allows for direct mind control/override by the superintelligence;
  • Enslave humankind, meaning restricting our freedom to move or otherwise choose what to do with our bodies and minds. This can be accomplished through forced cryonics or concentration camps;
  • Abuse and torture humankind with perfect insight into our physiology to maximize amount of physical or emotional pain, perhaps combining it with a simulated model of us to make the process infinitely long;
  • Commit specicide against humankind, arguably the worst option for humans as it can’t be undone;
  • Destroy/irreversibly change the planet, a significant portion of the Solar system, or even the universe;
  • Unknown Unknowns. Given that a superintelligence is capable of inventing dangers we are not capable of predicting, there is room for something much worse but which at this time has not been invented.

(Having blogged that, I'm with Darius on this one: „I find AI optimists to be about as frustrating as AI pessimists. My position: AI is weird! Really fucking weird!!“)

Tags: AI Apocalypse

What Does A.I. Have To Do With This Selfie?

What Does A.I. Have To Do With This Selfie?

Nettes Erklärvideo von Nat and Lo, in dem sie Style Transfer per A.I. erklären: Vor ein paar Wochen erst hatten…


AI dreams of Porn

Gabriel Goh hat mit Yahoos Neural Network open_nsfw einen Deep Dream-Algorithmus gebaut, der nun ganz genau wie Googles Hundebilder jedes…


AI dreams of Horror

Zu Halloween haben sie am MIT ein Neural Network auf Horror-Themes trainiert und generieren damit jede Menge Haunted Houses und…


Artificial Joey diggs Pizza with Cheese

Neues Paper von James Charles, Derek Magee und David Hogg von der Uni Leeds mit dem eher prätentiösen Titel Virtual…


Neural Style Transfer-App Prisma has Video, still can't dance

Prisma, die StyleTransfer-App, kann jetzt auch bis zu 15 Sekunden Video. Das hier kriegt ihr damit aber trotzdem nicht hin:…


Bildkompression per Machine Learning

Google hat eine neue Methode zur Bildkomprimierung per Machine Learning erfunden, die rund 25% kleinere Dateien erzeugt. Die JPG-Artefakte fallen…


Epic 2016: Facebook, Amazon, Google, IBM und Microsoft gründen AI-Partnerschaft

Facebook, Amazon, Google, IBM und Microsoft arbeiten zukünftig gemeinsam unter dem Label Partnership on AI an Künstlichen Intelligenzen. Zunächst werden…


Neural Network Facemorphs

Hübsche Spielerei mit AI-Gesichtern von Michael Flynn: Generating Faces with Deconvolution Networks. Letztlich „nur“ eine animierte Version von den bekannten…


Neural Network Bild-Retusche

Andrew Brock hat einen Foto-Editor mit AI-Retusche programmiert, hier auf Github, da das Paper. Alles noch im experimentellen Stadium, wie…


AI-composed „Beatles-Song“

Sony hat seine künstliche Intelligenz auf verschiedene Komponisten trainiert und die spuckt jetzt Song-Bausteine im Stil von [you name it]…


Neural Network Super Resolution getting good, fast

Neulich bloggte ich über die K.I.-Version der Zoom & Enhance-Meme und meinte noch, das seien ja nur 64x64 Pixel und…