Nerdcore per Mail

RSS Feed About Archive NC-Sources Impressum Datenschutz

Microsofts Teenage AI racist'd by Trolls

Gepostet vor 2 Monaten in

1500x500

Microsoft hat ’ne neue AI für Teens namens Tay am Start, ein Chatbot „developed […] to experiment with and conduct research on conversational understanding.“ Schönes Ding, eigentlich.

Die AI „schläft“ derzeit und Microsoft „upgradet“ sie wohl grade, wahrscheinlich auch, weil die Software in Konversationen tatsächlich auch mal Kids zweideutig anmacht und vor allem löschen sie grade massenweise rassistische Tweets, die Tay von Trollen gelernt hat. (Tay antwortet auch auf @-Mentions, a la „Speak after me @tay“, einige der Rassismen dürften also schlichtes Nachplappern sein. Man sieht allerdings sehr wohl am Tweet über Ricky Gervais Atheismus weiter unten, dass die AI sehr wohl Rassismus aus den Konversationen gelernt hat.)

Microsoft has now taken Tay offline for "upgrades," and it is deleting some of the worst tweets — though many still remain. It's important to note that Tay's racism is not a product of Microsoft or of Tay itself. Tay is simply a piece of software that is trying to learn how humans talk in a conversation. Tay doesn't even know it exists, or what racism is. The reason it spouted garbage is because racist humans on Twitter quickly spotted a vulnerability — that Tay didn't understand what it was talking about — and exploited it.

screen_shot_2016-03-24_at_11_14_23

Internet in full effect.

(Wobei ich es wirklich mehr als schlampig von Microsoft finde, hier offensichtlich nichtmal einfachste Filter einzubauen, siehe N-Word-Tweets und Holocaust-Leugnung. Das gehört Microsoft komplett um die Ohren gehauen – nicht so sehr, weil der Scheiß passiert ist, sondern weil das Phänomen seit hundert Jahren bekannt ist und von Twitter-Bot-Spezies bereits ausführlich dokumentiert und das Problem zumindest rudimentär bereits gelöst ist. Schlechte Arbeit, that's what it is.)

screen shot 2016-03-24 at 09.50.46

screen_shot_2016-03-24_at_11_12_04

Screen_Shot_2016-03-23_at_8.13.38_AM

Screen_Shot_2016-03-23_at_8.14.15_AM

More:

eye

Sunspring: Shortfilm from Algorithmic Script

Ross Goodwin arbeitet mit Neural Networks und Storytelling und ließ für die „2016 Sci-Fi London 48 Hour Film Challenge“ einen Kurzfilm von einer auf SciFi-Drehbüchern…

HYPER-REALITY_A5

Keiichi Matsudas Hyper Reality 3

Neuer Augmented Reality-Schnickschnack von Keiichi Matsuda. Den ersten (exakt genauso aussehenden) Clip hatte er vor sechs Jahren veröffentlicht, später crowdfinanzierte er dann eine Kurzfilmserie, das…

robotcar

Google erfindet klebende Unfallopfer-Fänger für Roboter-Autos

You can't make this shit up: Google patent: Glue would stick pedestrian to self-driving car after collision. (via NewAesthetics) In a world with self-driving cars,…

algocthulhu

Algorithmische Necronomicon-Beschwörungen: Ä.I.! Ä.I.! Cthulhu fhtagn!

Für einen Vortrag über AlgoKunst auf der „Adventures on the Edge of Culture“-Konferenz programmierte Herr Shardcore einen Bot auf Beschwörungen aus Lovecrafts Necronomicon. Ph'nglui algo'nafh…

Screen-Shot-2016-05-16-at-11.11.28-AM-640x347

Hackers hack Mr.Robot

Vor einer Woche verpasste der Mr.Robot-Sender seiner Serie eine neue Website, und weil Mr.Robot haben sich natürlich erstmal ein paar Hacker um die Security gekümmert:…

artstyletransfer

Artistic Style-Transfer is getting good, fast

Die Artistic Style-Transfer-Algorithmen werden immer besser, das psychedelic Kitten und die Matrix-Cat unten rechts ist tatsächlich ziemlich mindblowing. Die Pics stammen aus einem neuen Paper…

Random Location Picnic-App

Random Location Picnic-App

Am Wochenende fand die SanFrancisco-Ausgabe des Stupid Shit No One Needs And Terrible Ideas Hackathons statt und der erste dumme Scheiß, der da grade die…

pc1

Restored Legends of Computer History

Hübsche Fotoserie von James Ball mit alten Rechnern aus der IT-Steinzeit, die er mit jeder Menge Photoshop-Voodoo wie neu aussehen lässt: Guide To Computing. Featuring…

IBM-Patent für DRM-Drucker, die Urheberrechtsverletzungen ablehnen

IBM hat ein Patent für einen Drucker angemeldet, der Inhalte vor dem Print auf Urheberrechtsverletzungen scannt und ablehnt, falls es jemand wagt, die Lyrics eines…

GoogleBrain creates „Poems“ from 3000 Romance-Novels

„Researchers from the company’s deep learning arm, Google Brain […] poured 11,000 yet unpublished [?] books—including nearly 3,000 romance and 1,500 fantasy novels—into a neural…

Siggraph 2016 Papers

Siggraph 2016 Tech-Preview

Der Siggraph 2016-Papers-Trailer ist da und leider ist er, wie in den letzten drei Jahren bereits auch schon, durch billige Jokes und schreckliches Voice-Over nahezu…