Microsofts Teenage AI racist'd by Trolls

Gepostet vor 6 Monaten, 2 Tagen in Misc Tech Share: Twitter Facebook Mail

1500x500

Microsoft hat ’ne neue AI für Teens namens Tay am Start, ein Chatbot „developed […] to experiment with and conduct research on conversational understanding.“ Schönes Ding, eigentlich.

Die AI „schläft“ derzeit und Microsoft „upgradet“ sie wohl grade, wahrscheinlich auch, weil die Software in Konversationen tatsächlich auch mal Kids zweideutig anmacht und vor allem löschen sie grade massenweise rassistische Tweets, die Tay von Trollen gelernt hat. (Tay antwortet auch auf @-Mentions, a la „Speak after me @tay“, einige der Rassismen dürften also schlichtes Nachplappern sein. Man sieht allerdings sehr wohl am Tweet über Ricky Gervais Atheismus weiter unten, dass die AI sehr wohl Rassismus aus den Konversationen gelernt hat.)

Microsoft has now taken Tay offline for "upgrades," and it is deleting some of the worst tweets — though many still remain. It's important to note that Tay's racism is not a product of Microsoft or of Tay itself. Tay is simply a piece of software that is trying to learn how humans talk in a conversation. Tay doesn't even know it exists, or what racism is. The reason it spouted garbage is because racist humans on Twitter quickly spotted a vulnerability — that Tay didn't understand what it was talking about — and exploited it.

screen_shot_2016-03-24_at_11_14_23

Internet in full effect.

(Wobei ich es wirklich mehr als schlampig von Microsoft finde, hier offensichtlich nichtmal einfachste Filter einzubauen, siehe N-Word-Tweets und Holocaust-Leugnung. Das gehört Microsoft komplett um die Ohren gehauen – nicht so sehr, weil der Scheiß passiert ist, sondern weil das Phänomen seit hundert Jahren bekannt ist und von Twitter-Bot-Spezies bereits ausführlich dokumentiert und das Problem zumindest rudimentär bereits gelöst ist. Schlechte Arbeit, that's what it is.)

screen shot 2016-03-24 at 09.50.46 screen_shot_2016-03-24_at_11_12_04 Screen_Shot_2016-03-23_at_8.13.38_AM Screen_Shot_2016-03-23_at_8.14.15_AM

Tags: AI Bots Racism Trolls

stfu

Conversation AI: Googles algorithmischer Troll-Filter triggert 4chan

Nachdem Yahoo vor ein paar Wochen seinen Anti-Troll-Algorithmus vorgestellt hatte, schreibt Wired nun über Googles Jigsaw-Abteilung, die an einem AI-Tool…

nne

Neural Network Bild-Retusche

Andrew Brock hat einen Foto-Editor mit AI-Retusche programmiert, hier auf Github, da das Paper. Alles noch im experimentellen Stadium, wie…

hell

When Is A Troll No Longer A Troll?

Nette Ergänzung vom PBS Idea-Channel zur aktuellen Debatte um Trolltwitter (Vorher: Das versiffte Trolltwitter, Inside Sifftwitter: Ein Twitter-Troll erklärt das…

siff

Inside Sifftwitter: Ein Twitter-Troll erklärt das Trollen

Wir hatten hier bei einem Posting über Twitter-Trolle (Das versiffte Trolltwitter), ein paar ziemlich interessante Diskussionen in den Kommentaren. Einer…

beatles

AI-composed „Beatles-Song“

Sony hat seine künstliche Intelligenz auf verschiedene Komponisten trainiert und die spuckt jetzt Song-Bausteine im Stil von [you name it]…

lulz

Elias Canettis Masse und DasGeileNeueInternet

Ich lese grade eine Reihe von Büchern, um meine Beobachtungen zu DasGeileNeueInternet akademisch aufzublasen theoretisch zu fundieren. Das erste ist…

enhance

Neural Network Super Resolution getting good, fast

Neulich bloggte ich über die K.I.-Version der Zoom & Enhance-Meme und meinte noch, das seien ja nur 64x64 Pixel und…

netw

Neural Network Compositing

Adobe Research und die Uni Berkley arbeiten an Retusche und Compositing via Machine Learning. Die Ergebnisse sind zwar beeindruckend, aber…

sam

Google WaveNet: Neural Network-generated Text-2-Speech

Google hat seine Neural Networks auf Stimmerzeugung trainiert und ein neues Verfahren zur Synthetisierung von Sprache erfunden. Die Ergebnisse sind…

algobaby

Algo-Video-Babys are absolutely not creepy, not creepy at all

Total interessantes Paper vom MIT: Generating Videos with Scene Dynamics (via Gene Kogan). Die haben Neural Networks auf Videos trainiert…

poppy

Neural Network Poppy 🙃

Poppy inside the Machine 🙃 🙂 🙃 🙂 🙃 🙂 🙃 🙂 🙃 🙂 🙃 🙂 🙃 🙂 🙃 🙂…