Microsofts Teenage AI racist'd by Trolls

Gepostet vor 9 Monaten, 25 Tagen in #Misc #Tech #AI #Bots #Racism #Trolls

Share: Twitter Facebook Mail

1500x500

Microsoft hat ’ne neue AI für Teens namens Tay am Start, ein Chatbot „developed […] to experiment with and conduct research on conversational understanding.“ Schönes Ding, eigentlich.

Die AI „schläft“ derzeit und Microsoft „upgradet“ sie wohl grade, wahrscheinlich auch, weil die Software in Konversationen tatsächlich auch mal Kids zweideutig anmacht und vor allem löschen sie grade massenweise rassistische Tweets, die Tay von Trollen gelernt hat. (Tay antwortet auch auf @-Mentions, a la „Speak after me @tay“, einige der Rassismen dürften also schlichtes Nachplappern sein. Man sieht allerdings sehr wohl am Tweet über Ricky Gervais Atheismus weiter unten, dass die AI sehr wohl Rassismus aus den Konversationen gelernt hat.)

Microsoft has now taken Tay offline for "upgrades," and it is deleting some of the worst tweets — though many still remain. It's important to note that Tay's racism is not a product of Microsoft or of Tay itself. Tay is simply a piece of software that is trying to learn how humans talk in a conversation. Tay doesn't even know it exists, or what racism is. The reason it spouted garbage is because racist humans on Twitter quickly spotted a vulnerability — that Tay didn't understand what it was talking about — and exploited it.

screen_shot_2016-03-24_at_11_14_23

Internet in full effect.

(Wobei ich es wirklich mehr als schlampig von Microsoft finde, hier offensichtlich nichtmal einfachste Filter einzubauen, siehe N-Word-Tweets und Holocaust-Leugnung. Das gehört Microsoft komplett um die Ohren gehauen – nicht so sehr, weil der Scheiß passiert ist, sondern weil das Phänomen seit hundert Jahren bekannt ist und von Twitter-Bot-Spezies bereits ausführlich dokumentiert und das Problem zumindest rudimentär bereits gelöst ist. Schlechte Arbeit, that's what it is.)

screen shot 2016-03-24 at 09.50.46 screen_shot_2016-03-24_at_11_12_04 Screen_Shot_2016-03-23_at_8.13.38_AM Screen_Shot_2016-03-23_at_8.14.15_AM

troll

3,5 Jahre Knast für kriminellen Troll

Wir werden demnächst nochmal ausführlicher über Trolle reden, bis dahin soll diese Meldung erstmal reichen: Ein Gericht hat den ersten…

captcha

Miniature-Playground for Captcha-Solving AIs

„I'm not a Robot“ my ass. Mini World of Bits ('MiniWoB') is a benchmark for reinforcement learning agents who interact…

panic

How To build a Marvin the Depressed Reddit Bot in Python

Die Grünen fordern ja eine Transparenzpflicht für Social Bots. Ich hoffe inständig, dass jemand einen angemessenen Marvin-Bot für die Grünen…

nnnames

Neural Network Names from the Future

Nate Parrott hat ein Neural Network auf 7500 Vornamen trainiert und generiert nun neue Namen aus der Zukunft, inklusive „…

Trump Fucks induzieren Epilepsie-Anfall bei Journalisten mit Strobo-GIFs

In ihrem 2015 erschienenen Buch Hacker, Hoaxer, Whistleblower, Spy: The many faces of Anonymous beschreibt Gabriella Coleman 4chans Pläne für…

1_hunter-s-thompson-hells-angels

Links 19.12.2016: Wie Hunter S. Thompson die neue Rechte vorhersagte und ein schwarzer Pianist den Ku Klux Klan entmachtet

TheNation.com: This Political Theorist Predicted the Rise of Trumpism. His Name Was Hunter S. Thompson. – In Hell’s Angels, the…

b00a

Text 2 Bird

Neural Networks generieren Vögel aus Textbeschreibungen in 256x256 Pixeln (das nennen AI-Forscher „High Res“, haha). Die Methode sah qualitätsmäßig vor…

Style-Transfer für Audio

Dmitry Ulyanov und Vadim Lebedev mit einem ersten Ansatz für Style Transfer für Audio oder anders formuliert: Neural Network machen…

fly

Fly AI

Installation von David Bowen, in der eine Künstliche Intelligenz/ein Machine Learning-Algorithmus über das Schicksal einer Fliegenkolonie entscheidet. Brundle-Fly is not…

unfoodtruckspecified

Artbot.Space: Twitter-Bot remixt Headlines über algorithmische Kunst

Maria Roszkowska and Nicolas Maigret haben eine Plattform für AI-generierte Konzeptkunst aufgesetzt. Auf Artbot.Space sammelt man die Ergebnisse des Predictive…

A screenshot of New Zealand man Richard Lee's passport photo rejection notice, supplied to Reuters December 7, 2016.   Richard Lee/Handout via REUTERS

„Racist“ Algorithm tells Asian to open his eyes

Ein „rassistischer“ Gesichtserkennungs-Algorithmus verweigert den Passbild-Upload eines Asiaten wegen angeblich geschlossener Augen. Richard Lee's attempt to renew his passport was…