Microsofts Teenage AI racist'd by Trolls

Gepostet vor 1 Jahr, 6 Tagen in #Misc #Tech #AI #Bots #Racism #Trolls

Share: Twitter Facebook Mail

1500x500

Microsoft hat ’ne neue AI für Teens namens Tay am Start, ein Chatbot „developed […] to experiment with and conduct research on conversational understanding.“ Schönes Ding, eigentlich.

Die AI „schläft“ derzeit und Microsoft „upgradet“ sie wohl grade, wahrscheinlich auch, weil die Software in Konversationen tatsächlich auch mal Kids zweideutig anmacht und vor allem löschen sie grade massenweise rassistische Tweets, die Tay von Trollen gelernt hat. (Tay antwortet auch auf @-Mentions, a la „Speak after me @tay“, einige der Rassismen dürften also schlichtes Nachplappern sein. Man sieht allerdings sehr wohl am Tweet über Ricky Gervais Atheismus weiter unten, dass die AI sehr wohl Rassismus aus den Konversationen gelernt hat.)

Microsoft has now taken Tay offline for "upgrades," and it is deleting some of the worst tweets — though many still remain. It's important to note that Tay's racism is not a product of Microsoft or of Tay itself. Tay is simply a piece of software that is trying to learn how humans talk in a conversation. Tay doesn't even know it exists, or what racism is. The reason it spouted garbage is because racist humans on Twitter quickly spotted a vulnerability — that Tay didn't understand what it was talking about — and exploited it.

screen_shot_2016-03-24_at_11_14_23

Internet in full effect.

(Wobei ich es wirklich mehr als schlampig von Microsoft finde, hier offensichtlich nichtmal einfachste Filter einzubauen, siehe N-Word-Tweets und Holocaust-Leugnung. Das gehört Microsoft komplett um die Ohren gehauen – nicht so sehr, weil der Scheiß passiert ist, sondern weil das Phänomen seit hundert Jahren bekannt ist und von Twitter-Bot-Spezies bereits ausführlich dokumentiert und das Problem zumindest rudimentär bereits gelöst ist. Schlechte Arbeit, that's what it is.)

screen shot 2016-03-24 at 09.50.46 screen_shot_2016-03-24_at_11_12_04 Screen_Shot_2016-03-23_at_8.13.38_AM Screen_Shot_2016-03-23_at_8.14.15_AM

RechtsLinks 24.3.2017: Meme-Magic, The Problem With Facts, Le Pens Online Army und PC als Campus-Religion

Whitney Phillips (deren Troll-Buch hier rumliegt), Jessica Beyer und Gabriella Coleman (deren Troll-Buch hier ebenfalls rumliegt), über den Anteil der…

Next Level, photorealistic Style-Transfer

In ihrem neuen Paper stellen Fujun Luan, Sylvain Paris, Eli Shechtman und Kavita Bala eine neue Style-Transfer-Methode vor: Figure 1:…

Epilepsie induzierendes Troll-GIF von Gericht zu „tödlicher Waffe“ erklärt

Vor ein paar Monaten bloggte ich den ersten Fall einer erfolgreichen physischen Troll-Attacke durch ein Flacker-GIF, das einen Epilepsie-Anfall bei…

This Bot kills Fascists

So-So-Working-Object-Detection-Algorithm + Woodie Guthrie = Fascists.exe | „This bot kills fascists“.

The Internet Warriors

Sehr interessante Mini-Doku von Kyrre Lien, der drei Jahre lang Hater aus Comment-Sections zuhause besucht, befragt und fotografiert hat. Das…

Chatbot-Anwalt hilft bei Asyl-Anträgen

Im vergangenen Sommer programmierte ein 19jähriger Stanford-Student einen Chatbot-Anwalt, mit dessen Hilfe rund 250.000 Strafzettel angefochten wurden, wovon nicht weniger…

„Alexa? Are you connected to the CIA?“

„I always try to tell the truth.“ This reminds me of those Guilty-Dog-Videos:

AI Brainscans

Graphcore aus Bristol visualisieren künstliche Intelligenzen und Neural Networks: Inside an AI 'brain' - What does machine learning look like?…

Pix2Pix: Neural Network Katzen-Compositing als Browsertoy

Schönes Spielzeug von Christopher Hesse, der ein Neural Network auf Bild-Paaren trainiert hat und mit dem man nun Katzen, Schuhe…

4chan – Ein Schlüssel für den Aufstieg Trumps

Ich hatte am Wochenende in meinen RechtsLinks zwei Texte, die ich nochmal einzeln hervorheben will, da sie mir zur Entschlüsselung…

RechtsLinks 14.2.2017: Got Milk?, Trump-Memetics, Höcke soll raus, Anon infiltriert den KKK

Lest erstmal diesen kurzen Artikel von Mic: Milk is the new, creamy symbol of white racial purity in Donald Trump's…