Microsofts Teenage AI racist'd by Trolls

Gepostet vor 11 Monaten, 4 Tagen in #Misc #Tech #AI #Bots #Racism #Trolls

Share: Twitter Facebook Mail

1500x500

Microsoft hat ’ne neue AI für Teens namens Tay am Start, ein Chatbot „developed […] to experiment with and conduct research on conversational understanding.“ Schönes Ding, eigentlich.

Die AI „schläft“ derzeit und Microsoft „upgradet“ sie wohl grade, wahrscheinlich auch, weil die Software in Konversationen tatsächlich auch mal Kids zweideutig anmacht und vor allem löschen sie grade massenweise rassistische Tweets, die Tay von Trollen gelernt hat. (Tay antwortet auch auf @-Mentions, a la „Speak after me @tay“, einige der Rassismen dürften also schlichtes Nachplappern sein. Man sieht allerdings sehr wohl am Tweet über Ricky Gervais Atheismus weiter unten, dass die AI sehr wohl Rassismus aus den Konversationen gelernt hat.)

Microsoft has now taken Tay offline for "upgrades," and it is deleting some of the worst tweets — though many still remain. It's important to note that Tay's racism is not a product of Microsoft or of Tay itself. Tay is simply a piece of software that is trying to learn how humans talk in a conversation. Tay doesn't even know it exists, or what racism is. The reason it spouted garbage is because racist humans on Twitter quickly spotted a vulnerability — that Tay didn't understand what it was talking about — and exploited it.

screen_shot_2016-03-24_at_11_14_23

Internet in full effect.

(Wobei ich es wirklich mehr als schlampig von Microsoft finde, hier offensichtlich nichtmal einfachste Filter einzubauen, siehe N-Word-Tweets und Holocaust-Leugnung. Das gehört Microsoft komplett um die Ohren gehauen – nicht so sehr, weil der Scheiß passiert ist, sondern weil das Phänomen seit hundert Jahren bekannt ist und von Twitter-Bot-Spezies bereits ausführlich dokumentiert und das Problem zumindest rudimentär bereits gelöst ist. Schlechte Arbeit, that's what it is.)

screen shot 2016-03-24 at 09.50.46 screen_shot_2016-03-24_at_11_12_04 Screen_Shot_2016-03-23_at_8.13.38_AM Screen_Shot_2016-03-23_at_8.14.15_AM

Pix2Pix: Neural Network Katzen-Compositing als Browsertoy

Schönes Spielzeug von Christopher Hesse, der ein Neural Network auf Bild-Paaren trainiert hat und mit dem man nun Katzen, Schuhe…

4chan – Ein Schlüssel für den Aufstieg Trumps

Ich hatte am Wochenende in meinen RechtsLinks zwei Texte, die ich nochmal einzeln hervorheben will, da sie mir zur Entschlüsselung…

RechtsLinks 14.2.2017: Got Milk?, Trump-Memetics, Höcke soll raus, Anon infiltriert den KKK

Lest erstmal diesen kurzen Artikel von Mic: Milk is the new, creamy symbol of white racial purity in Donald Trump's…

Cube-Transformation-Bot

Ganz großartiger Bot von Andrew Heumann: Tweet2Form: The Formalist Tweetbot. Das Teil versteht 11 verschiedene Befehle für 3D-Transformationen, führt die…

The Ambivalent Internet: Mischief, Oddity, and Antagonism Online

Whitney Phillips' This Is Why We Can't Have Nice Things („this provocative book […] argues that trolling, widely condemned as…

Podcasts: Digitaler Wahlkampf – Filterbubble, Social Bots, Trolle und Microtargeting

Die Heinrich-Böll-Stiftung hat eine interessante, vierteilige Podcast-Reihe zum digitalen Wahlkampf am Start: Filterbubble, Social Bots, Trolle und Microtargeting: „Spätestens seit…

Trust-me-I'm-lying-Guy on How to Deal with AltRight-Trolls

Ryan Holiday, der vor ein paar Jahren das Buch Trust me, I'm lying (Amazon) schrieb, über Fuckopoulus: I Helped Create…

Der Sünden-Bot

Mein Buddy Gregor macht wieder Unfug mit Tweetie-Bots, diesmal eine Metapher auf die panische Scheindebatte über den Angriff der killeralienmutant…

Arte Bits über Trolle

Wo wir grade beim Thema sind: Arte Bits mit 10 Minuten über Trolle.

Everyone is Troll

Neues Paper aus der Trollforschung, hier als PDF: Anyone Can Become a Troll: Causes of Trolling Behavior in Online Discussions.…

Google Brain does Zoom & Enhance

Vor grob einem halben Jahr bloggte ich über eine Reihe von Papers, die eine neue AI-Anwendung vorstellten: Image Super-Resolution. Die…