Microsofts Teenage AI racist'd by Trolls

Gepostet vor 5 Monaten, 2 Tagen in Misc Tech Share: Twitter Facebook Mail

1500x500

Microsoft hat ’ne neue AI für Teens namens Tay am Start, ein Chatbot „developed […] to experiment with and conduct research on conversational understanding.“ Schönes Ding, eigentlich.

Die AI „schläft“ derzeit und Microsoft „upgradet“ sie wohl grade, wahrscheinlich auch, weil die Software in Konversationen tatsächlich auch mal Kids zweideutig anmacht und vor allem löschen sie grade massenweise rassistische Tweets, die Tay von Trollen gelernt hat. (Tay antwortet auch auf @-Mentions, a la „Speak after me @tay“, einige der Rassismen dürften also schlichtes Nachplappern sein. Man sieht allerdings sehr wohl am Tweet über Ricky Gervais Atheismus weiter unten, dass die AI sehr wohl Rassismus aus den Konversationen gelernt hat.)

Microsoft has now taken Tay offline for "upgrades," and it is deleting some of the worst tweets — though many still remain. It's important to note that Tay's racism is not a product of Microsoft or of Tay itself. Tay is simply a piece of software that is trying to learn how humans talk in a conversation. Tay doesn't even know it exists, or what racism is. The reason it spouted garbage is because racist humans on Twitter quickly spotted a vulnerability — that Tay didn't understand what it was talking about — and exploited it.

screen_shot_2016-03-24_at_11_14_23

Internet in full effect.

(Wobei ich es wirklich mehr als schlampig von Microsoft finde, hier offensichtlich nichtmal einfachste Filter einzubauen, siehe N-Word-Tweets und Holocaust-Leugnung. Das gehört Microsoft komplett um die Ohren gehauen – nicht so sehr, weil der Scheiß passiert ist, sondern weil das Phänomen seit hundert Jahren bekannt ist und von Twitter-Bot-Spezies bereits ausführlich dokumentiert und das Problem zumindest rudimentär bereits gelöst ist. Schlechte Arbeit, that's what it is.)

screen shot 2016-03-24 at 09.50.46 screen_shot_2016-03-24_at_11_12_04 Screen_Shot_2016-03-23_at_8.13.38_AM Screen_Shot_2016-03-23_at_8.14.15_AM

Tags: AI Bots Racism Trolls

Bildschirmfoto 2016-08-26 um 11.45.55

Leistungsschutzrecht vs Text-Zusammenfassung per Machine Learning

Oettinger so Leistungsschutzrecht auf EU-Ebene nao! Google so lol: Text summarization with TensorFlow. Die Ergebnisse von Googles Maschinen-Snippets sind nett,…

scarlet

Hal 9000 und Samantha diskutieren Machine-Learning und seine Folgen für die Roboter-Existenz

Die Film-AIs HAL 9000 aus 2001 und Samantha aus Her unterhalten sich über die Fragen des Machine-Learnings und ihre Folgen…

CqbkXCQWcAApmQQ

Archillect TV

Murat Paks Archillect ist ein Bot, der per Machine Learning im Laufe der Zeit Geschmack anhand von Likes und Retweets…

Cp7wg51W8AAgUPC

Thesaurus Bots' synonyme Filmtitel/Beatles-Songs

Rob Manuel arbeitet grade an einem Thesaurus Bot, der (bislang) Synonyme für Filmtitel und Beatles-Songs ausspuckt. Bei „Acceptable Bright Light“…

brain1

AI-Bildbeschreibungen aus visueller Hirnaktivität

Wissenschaftler aus Japan haben Bildbeschreibungen aus Brainscans generiert. Probanden hatten sich in Experimenten visuelle Stimuli (aka Pics) angeschaut, ein auf…

poke

Künstliche Intelligenz generiert Pokémon

Eine künstliche Intelligenz erzeugt Pokémon, im Bild oben die finale Generation nach soundsoviel Generationen, im Video der Weg dahin: Wenn…

watson

Neural Network lernt Handschriften

Tom Haines vom University College London hat ein Neural Network entwickelt, das Handschriften lernen kann, hier sein Blog-Eintrag zum Paper.…

Bildschirmfoto 2016-08-11 um 14.59.17

Yahoo entwickelt Anti-Troll Algorithmus

Yahoo entwickelt einen Anti-Troll-Algorithmus, der semi-automatisch bis zu 90% aller Comments in seiner Datenbank erkannte, die HateSpeech enthielten. Ich seh…

Prisma-Style Transfer für Snapchat-Filter

Prisma-Style Transfer für Snapchat-Filter

Ziemlich einfache Technik, um die Prisma-Style Transfers als Snapchat-Filter zu nutzen. Einfach ein Selbstportrait mit Prisma aufnehmen und per Faceswap…

r40

Olympic Rule40-Bot, R.I.P.

Vor ein paar Tagen ging der Rule40-Bot online, der als Satire eben jene Regel aus den Vorgaben für's Online-Marketing –…

murphy

Microsofts Chat-Bot mit schlechten Photoshop-Skills

Microsoft hat ein neues Bot-Spielzeug am Start: Murphy ist ein Chatbot für Skype, Messenger und Telegram und er kann Photoshop.…