Google WaveNet: Neural Network-generated Text-2-Speech

Gepostet vor 11 Monaten, 13 Tagen in #Tech #AI #AlgoCulture #Language

Share: Twitter Facebook Mail

sam

Google hat seine Neural Networks auf Stimmerzeugung trainiert und ein neues Verfahren zur Synthetisierung von Sprache erfunden. Die Ergebnisse sind deutlich besser, als das, was man bisher von Text-2-Speech-Synthesis so kennt:

Die füttern ihr WaveNet mit Lautsprache, bis zu einer „echten“ Text-2-Speech-Anwendung fehlt also noch ein kleines Stück (und das Teil ist ohnehin eher… langsam: „it takes 90 minutes to synthesize one second of audio.“)

Interessant: Da die Algorithmen aber auch auf Audio-Samples trainiert sind, können sie auch einfach losreden ohne Text-Input und die Ergebnisse hier beinhalten dann auch „menschliche Spuren“ in der Kunst-Stimme, also Atmen, Lispeln und subtile Schmatzer:

Discover Mag: Google DeepMind’s WaveNet AI Sounds Human, Rocks the Piano
Technology Review: Face of a Robot, Voice of an Angel? – DeepMind’s use of neural networks to synthesize speech could finally make computers sound more human.

generating speech with computers — a process usually referred to as speech synthesis or text-to-speech (TTS) — is still largely based on so-called concatenative TTS, where a very large database of short speech fragments are recorded from a single speaker and then recombined to form complete utterances. This makes it difficult to modify the voice (for example switching to a different speaker, or altering the emphasis or emotion of their speech) without recording a whole new database.

This has led to a great demand for parametric TTS, where all the information required to generate the data is stored in the parameters of the model, and the contents and characteristics of the speech can be controlled via the inputs to the model. So far, however, parametric TTS has tended to sound less natural than concatenative, at least for syllabic languages such as English. Existing parametric models typically generate audio signals by passing their outputs through signal processing algorithms known as vocoders.

WaveNet changes this paradigm by directly modelling the raw waveform of the audio signal, one sample at a time. As well as yielding more natural-sounding speech, using raw waveforms means that WaveNet can model any kind of audio, including music. […]

Here are some samples from all three systems so you can listen and compare yourself:

[…] If we train the network without the text sequence, it still generates speech, but now it has to make up what to say. As you can hear from the samples below, this results in a kind of babbling, where real words are interspersed with made-up word-like sounds:

[…] By changing the speaker identity, we can use WaveNet to say the same thing in different voices:

[…] Since WaveNets can be used to model any audio signal, we thought it would also be fun to try to generate music. Unlike the TTS experiments, we didn’t condition the networks on an input sequence telling it what to play (such as a musical score); instead, we simply let it generate whatever it wanted to. When we trained it on a dataset of classical piano music, it produced fascinating samples like the ones below:

Holyge Bimbel – Storys vong Gott u s1 Crew

Der größte Fantasy-Roman der Welt in Internet-Bla von Shahak Shapira: Holyge Bimbel – Storys vong Gott u s1 Crew. Sure,…

Algorithmic Image-Watermark Remover

Google hat ein neues Paper über die automatische Entfernung von Wasserzeichen in Pics, netterweise nennen sie das Paper „On the…

10 PRINT CHR$ (205.5 + RND (1)); on a Commodore Pet

10 PRINT CHR$ (205.5 + RND (1)); 20 GOTO 10 ist sowas wie ein Miniatur-Programm in Basic für Generative Graphics,…

DeepMind releases StarCraft AI

Google und Blizzard haben ihre StarCraft AI veröffentlicht: Testing our agents in games that are not specifically designed for AI…

Self-Driving Cars hacked with Love and Hate

Wissenschaftler der Uni Washington haben die Computer-Vision-Systeme von selbstfahrenden Autos gehackt – indem sie Love und Hate in colorierten Pixelfonts auf…

Stats of Fucks to give on Twitter

Travis Hoppe („post-punk scientist; highly irrelevant“) analysiert das Wort „fuck“ auf Twitter. (via Reddit) Insgesamt findet sich „fuck“ mit einem…

Cellular Automata Cube

Cubes.io: Conways Game of Life als 3D-Spielzeug mit Cubes und Spheres und Schnickschnack als Evolution-Nullpunkt, von wo aus die ganzen…

Neural Network-Faces synched to Music

„My first attempt to map a song made by @kamptweets onto GAN generated proto-faces.“ Bohemian Rhapsody next. The Three Nightingans.…

AI-Animations with human Sounds

Google vor ein paar Tagen so: „Yay, wir haben hier 'ne neue AI-based Animation-Tech, hooray!“ (Paper) Hayayo Miyazaki über AI-based…

Visual AI-Spaces Auto-Pilot

Ich habe schon ein paar mal über Mario Klingemanns Arbeiten hier gebloggt, derzeit jagt er Neural Networks durch Feedback-Loops und…

Synthesizing Obama from Audio

Im Mai bloggte ich über ein damals noch nicht veröffentlichtes Paper zur SigGraph2017, in dem sie eine Methode für generative…