Nerdcore per Mail

RSS Feed About Archive NC-Sources Impressum Datenschutz

Microsofts Teenage AI racist'd by Trolls

Gepostet vor 3 Monaten, 3 Tagen in AI Bots Racism Trolls

1500x500

Microsoft hat ’ne neue AI für Teens namens Tay am Start, ein Chatbot „developed […] to experiment with and conduct research on conversational understanding.“ Schönes Ding, eigentlich.

Die AI „schläft“ derzeit und Microsoft „upgradet“ sie wohl grade, wahrscheinlich auch, weil die Software in Konversationen tatsächlich auch mal Kids zweideutig anmacht und vor allem löschen sie grade massenweise rassistische Tweets, die Tay von Trollen gelernt hat. (Tay antwortet auch auf @-Mentions, a la „Speak after me @tay“, einige der Rassismen dürften also schlichtes Nachplappern sein. Man sieht allerdings sehr wohl am Tweet über Ricky Gervais Atheismus weiter unten, dass die AI sehr wohl Rassismus aus den Konversationen gelernt hat.)

Microsoft has now taken Tay offline for "upgrades," and it is deleting some of the worst tweets — though many still remain. It's important to note that Tay's racism is not a product of Microsoft or of Tay itself. Tay is simply a piece of software that is trying to learn how humans talk in a conversation. Tay doesn't even know it exists, or what racism is. The reason it spouted garbage is because racist humans on Twitter quickly spotted a vulnerability — that Tay didn't understand what it was talking about — and exploited it.

screen_shot_2016-03-24_at_11_14_23

Internet in full effect.

(Wobei ich es wirklich mehr als schlampig von Microsoft finde, hier offensichtlich nichtmal einfachste Filter einzubauen, siehe N-Word-Tweets und Holocaust-Leugnung. Das gehört Microsoft komplett um die Ohren gehauen – nicht so sehr, weil der Scheiß passiert ist, sondern weil das Phänomen seit hundert Jahren bekannt ist und von Twitter-Bot-Spezies bereits ausführlich dokumentiert und das Problem zumindest rudimentär bereits gelöst ist. Schlechte Arbeit, that's what it is.)

screen shot 2016-03-24 at 09.50.46 screen_shot_2016-03-24_at_11_12_04 Screen_Shot_2016-03-23_at_8.13.38_AM Screen_Shot_2016-03-23_at_8.14.15_AM

More: AI Bots Racism Trolls

twi

Post-Brexit Racism

1. Brexit-Befürworter über linke und generalisierende Kritik: „Remain voters be like 'How dare I not have my way! I know, I'll call everyone who doesn't…

kimmel

Face 2 Face-Tech @ Kimmel

Matthias Niessners Face 2 Face-Tech, die vor drei Monaten durch Netz gereicht wurde, im Live-Test beim Kimmel. Dr. Matthias Niessner from Stanford demonstrates the amazing…

fasc

Woodie Guthries „Old Man Trump“ by Ryan Harvey, Ani DiFranco & Tom Morello

Vor ’nem halben Jahr hat man alte Lyrics vom alten Social Justice Warrior und Fascist-Killing-Machine-Spieler Woodie Guthrie gefunden. Der hatte damals in einem von Drumpf-Daddys…

kiss

A.I. predicts High-Fives, Hugs and Kisses

Im AI-Lab vom MIT haben sie ein paar Neural Networks auf Umarmungen, Knutschen und High-Fives aus Youtube-Clips und Fernsehserien trainiert, die sie dann vorhersagen konnten:…

joe

AI-Moebius dreaming of Jimi Hendrix

1975 zeichnete Moebius das Cover der französischen Hendrix-Compilation „Are You Experienced, Axis: Bold As Love“ (Bilder unten). 40 Jahre später schickt lulu xXX den Jimi…

sty

StyLit: Artistic Style-Transfer for 3D-Objects

StyLit von Daniel Sýkora, eine neue Style Transfer-Technik für 3D-Renderings mit extrem guten Ergebnissen. Ich schätze mal, CGI-gestützte Zeichentrickfilme und Toon-Shader in Games werden schon…

pol

The Trollbots are here

Charlie Stross, SciFi-Autor (Accelerando, Rule 34, Rapture of the Nerds) schrieb vor ein paar Wochen erst über kommende Trollbots: Attacking someone on the Internet is…

bhs

Creepy Neural Network makes you Smile 🙃

Tom White hat einen Twitterbot namens Smile Vector gebastelt, ein Neural Network, das Lächeln auf Bildern mit neutralen Gesichtsausdrücken ersetzt und umgekehrt. Das Teil ist…

demoms4

Algorithmische Endlos-Dämonologie als Twitter-Bot

Hübscher Tweetiebot voller Algo-Dämonen: „The Lesser Bot of Solomon offers you endless pages from a text in the style of Ars Goetia and the Pseudomonarchia…

lobo

Sascha Lobo: Das Ende der Illusion die wir Gesellschaft nannten

Sascha Lobo in einem tollen Vortrag auf der 13. Tübinger Mediendozentur über DasGeileNeueInternet und „das Ende der Illusion die wir Gesellschaft nannten“. Falls Ihr mein…

eigenface0

Faces reconstructed from Brain-Scans

Wissenschaftler haben Gesichter aus der Hirnaktivität während des Erinnerungsvorgangs extrahiert. Die haben zunächst die Neuro-Reaktion der Versuchsteilnehmer auf über 1000 Gesichter in einem MRI-Scan aufgezeichnet,…