Microsofts Teenage AI racist'd by Trolls

Gepostet vor 4 Monaten in Misc Tech

1500x500

Microsoft hat ’ne neue AI für Teens namens Tay am Start, ein Chatbot „developed […] to experiment with and conduct research on conversational understanding.“ Schönes Ding, eigentlich.

Die AI „schläft“ derzeit und Microsoft „upgradet“ sie wohl grade, wahrscheinlich auch, weil die Software in Konversationen tatsächlich auch mal Kids zweideutig anmacht und vor allem löschen sie grade massenweise rassistische Tweets, die Tay von Trollen gelernt hat. (Tay antwortet auch auf @-Mentions, a la „Speak after me @tay“, einige der Rassismen dürften also schlichtes Nachplappern sein. Man sieht allerdings sehr wohl am Tweet über Ricky Gervais Atheismus weiter unten, dass die AI sehr wohl Rassismus aus den Konversationen gelernt hat.)

Microsoft has now taken Tay offline for "upgrades," and it is deleting some of the worst tweets — though many still remain. It's important to note that Tay's racism is not a product of Microsoft or of Tay itself. Tay is simply a piece of software that is trying to learn how humans talk in a conversation. Tay doesn't even know it exists, or what racism is. The reason it spouted garbage is because racist humans on Twitter quickly spotted a vulnerability — that Tay didn't understand what it was talking about — and exploited it.

screen_shot_2016-03-24_at_11_14_23

Internet in full effect.

(Wobei ich es wirklich mehr als schlampig von Microsoft finde, hier offensichtlich nichtmal einfachste Filter einzubauen, siehe N-Word-Tweets und Holocaust-Leugnung. Das gehört Microsoft komplett um die Ohren gehauen – nicht so sehr, weil der Scheiß passiert ist, sondern weil das Phänomen seit hundert Jahren bekannt ist und von Twitter-Bot-Spezies bereits ausführlich dokumentiert und das Problem zumindest rudimentär bereits gelöst ist. Schlechte Arbeit, that's what it is.)

screen shot 2016-03-24 at 09.50.46 screen_shot_2016-03-24_at_11_12_04 Screen_Shot_2016-03-23_at_8.13.38_AM Screen_Shot_2016-03-23_at_8.14.15_AM

Tags: AI Bots Racism Trolls

milooo

„Milo Fuckopoulos ist die ideologische Analogie zu Kim Kardashians Arsch“

Großartiger Text von Laurie Penny, die einen Abend mit auf Milo Fuckopoulos „Wake Up!“-Party während des Parteitags der Republikaner in…

shmilo

Begun the Ghostbusters-Wars in DasGeileNeueInternet have

Milo Fuckopolous, professioneller Clown, Troll und Provokateur der Neurechten, eins der bekanntesten Ausshängeschilder von Gamergate und Breitbart, wurde gestern endlich…

Bildschirmfoto 2016-07-19 um 12.09.37

Melania Trumps Rickroll-Speech

Auf dem Parteitag der Republikaner schwang der komplette Trump-Klan hohe Reden auf Drumpf, unter anderem seine Freu Melania. Und ihr…

ghosts

Männerrechtler haben keine Ahnung von Ghostbusters 👻

Ich hatte gestern ein Posting des laut Selbstbezeichnung linken Männerrechtlers Arne Hoffmanns über den Comic-Markt zerpflückt, dazu schreibt er heute…

algocam

Algo-Cameron-DooDoo-Bot

David Doo-Doo: „I'm a singer-songwriter of doo-doos and used to be Prime Minister.“ Ein Bot von Matthew Plummer-Fernandez (Twitter), der…

IMG_2604

Prisma Style-Transfer kommt für Android und die Technik hinter der App

Ich hatte vor ein paar Tagen einen Hinweis auf die russische App Prisma gepostet, die diesen ganzen NeuralNetwork-AI-Style-Transfer-Kram, über den…

g5

Algo-Garfield

Nettes Posting von The Awl über The Weird, Wonderful World of Subversive Garfield Spinoffs. Die meisten hatte ich hier bereits…

p7

Artistic Style Transfer Mobile-App

Ich blogge seit einer ganzen Weile über Neural Networks und Artistic Style Transfer, also die Übertragung der Stile eines Malers…

Fusion Re-Revisited: Die Kritik der Ahnungslosen

Eins der größten Hacksteaks, das ich mit den modernen SJWs zu futtern habe, ist die Frage der „Cultural Appropriation“, also…

Can an Artificial Intelligence Create Art?

Can an Artificial Intelligence Create Art?

Hübscher Clip vom PBS Idea Channel über den AlgoArt- und CreativeAI-Hype der letzten Monate und die grundlegende Frage, ob Maschinen…

mean

Falsche Roboter-Beschreibungen einer künstlichen Intelligenz, ranked

Gene Kogan hat ein Neural Network für sogenanntes Dense Captioning (algorithmische Bildbeschreibungen, hatte ich zum Beispiel hier und da und…