Microsofts Teenage AI racist'd by Trolls

Gepostet vor 1 Jahr, 2 Monaten in #Misc #Tech #AI #Bots #Racism #Trolls

Share: Twitter Facebook Mail

1500x500

Microsoft hat ’ne neue AI für Teens namens Tay am Start, ein Chatbot „developed […] to experiment with and conduct research on conversational understanding.“ Schönes Ding, eigentlich.

Die AI „schläft“ derzeit und Microsoft „upgradet“ sie wohl grade, wahrscheinlich auch, weil die Software in Konversationen tatsächlich auch mal Kids zweideutig anmacht und vor allem löschen sie grade massenweise rassistische Tweets, die Tay von Trollen gelernt hat. (Tay antwortet auch auf @-Mentions, a la „Speak after me @tay“, einige der Rassismen dürften also schlichtes Nachplappern sein. Man sieht allerdings sehr wohl am Tweet über Ricky Gervais Atheismus weiter unten, dass die AI sehr wohl Rassismus aus den Konversationen gelernt hat.)

Microsoft has now taken Tay offline for "upgrades," and it is deleting some of the worst tweets — though many still remain. It's important to note that Tay's racism is not a product of Microsoft or of Tay itself. Tay is simply a piece of software that is trying to learn how humans talk in a conversation. Tay doesn't even know it exists, or what racism is. The reason it spouted garbage is because racist humans on Twitter quickly spotted a vulnerability — that Tay didn't understand what it was talking about — and exploited it.

screen_shot_2016-03-24_at_11_14_23

Internet in full effect.

(Wobei ich es wirklich mehr als schlampig von Microsoft finde, hier offensichtlich nichtmal einfachste Filter einzubauen, siehe N-Word-Tweets und Holocaust-Leugnung. Das gehört Microsoft komplett um die Ohren gehauen – nicht so sehr, weil der Scheiß passiert ist, sondern weil das Phänomen seit hundert Jahren bekannt ist und von Twitter-Bot-Spezies bereits ausführlich dokumentiert und das Problem zumindest rudimentär bereits gelöst ist. Schlechte Arbeit, that's what it is.)

screen shot 2016-03-24 at 09.50.46 screen_shot_2016-03-24_at_11_12_04 Screen_Shot_2016-03-23_at_8.13.38_AM Screen_Shot_2016-03-23_at_8.14.15_AM

Neural Network sorts Skate Decks

David De Vigne hat ein Neural Network auf seine Sammlung von Skatedecks trainiert und hat sie damit nach visuellen Merkmalen…

How Computer Vision Is Finally Taking Off

Nat and Friends: „Computer vision is fascinating to me because a) it sounds intriguing and b) it’s a part of…

Deep Dreaming an Art Archive

Tolle Installation des türkischen Künstlers Refik Anadol, der eine künstliche Intelligenz und ihr Machine Learning auf das Archiv des SALT…

Smile-Filtering a Face until there is no Face left to smile-filter

Gene Kogan: „just in case you were wondering, this is what happens when you repeatedly run FaceApp’s smile filter until…

Neural Network dreams your Dreams

Wissenschaftler können bereits seit Jahren Bilder aus Gehirnscans extrahieren, also: Tatsächlich ein Abbild davon schaffen, was wir sehen. Die Resultate…

Troll Cakes

Troll Cakes: 1. We take an internet comment. 2. Make it into a cake. 3. And then box it up…

Sifftwitter: Mit den Trollen ums Datenfeuer tanzen

Luca Hammer auf der Republica gestern über Sifftwitter: Mit den Trollen ums Datenfeuer tanzen. (Vorher auf NC: Das versiffte Trolltwitter,…

4 AI-Obamas learn Algo-Lipsynch from Audio

Seit ich über die neuen Möglichkeiten von Machine Learning bezüglich Computer Vision und der Generation von Bildern schreibe, vor allem…

Pepe R.I.P.

Matt Furie, Zeichner des Original-Pepe-Cartoons, hat seine Comicfigur getötet. In the World’s Greatest Cartoonists volume from Fantagraphics for Free Comic…

Neural Networks for Character Control

Daniel Holden, Taku Komura und Jun Saito haben ein Neural Network auf Character-Animationen trainiert, mit dem Figuren in Games und…

Trolling for a Race War in Berkley

Matthew Sheffield bei Salon über Trolling for a race war: Neo-Nazis are trying to bait leftist “antifa” activists into violence…