Wav2Lip

Synchronisation labiale précise avec n'importe quel audio grâce à Wav2Lip sur les GPU Clore.ai

Synchronisez les lèvres avec n'importe quel audio grâce à Wav2Lip.

Tous les exemples peuvent être exécutés sur des serveurs GPU loués via la place de marché CLORE.AI.

Louer sur CLORE.AI

1. Visitez la place de marché CLORE.AI

2. Filtrez par type de GPU, VRAM et prix

3. Choisissez À la demande (tarif fixe) ou Spot (prix d'enchère)

4. Configurez votre commande :

   • Sélectionnez l'image Docker

   • Définissez les ports (TCP pour SSH, HTTP pour les interfaces web)

   • Ajoutez des variables d'environnement si nécessaire

   • Entrez la commande de démarrage

5. Sélectionnez le paiement : CLORE, BTC, ou USDT/USDC

6. Créez la commande et attendez le déploiement

Accédez à votre serveur

• Trouvez les détails de connexion dans Mes commandes

• Interfaces web : utilisez l'URL du port HTTP

• SSH : ssh -p <port> root@<proxy-address>

Qu'est-ce que Wav2Lip ?

Wav2Lip fournit :

• Synchronisation labiale précise pour n'importe quel visage

• Fonctionne avec n'importe quel audio

• Entrée vidéo ou image

• Compatible en temps réel

Exigences

Mode	VRAM	Recommandé
Basique	4 Go	RTX 3060
Haute qualité	6 Go	RTX 3080
Haute définition	8 Go	RTX 4080

Déploiement rapide

Image Docker :

pytorch/pytorch:2.11.0-cuda12.8-cudnn9-devel

Ports :

22/tcp
7860/http

Commande :

cd /workspace && \
git clone https://github.com/Rudrabha/Wav2Lip.git && \
cd Wav2Lip && \
pip install -r requirements.txt && \
wget "https://huggingface.co/spaces/wav2lip/wav2lip/resolve/main/checkpoints/wav2lip_gan.pth" -P checkpoints/ && \
python app.py

Accéder à votre service

Après le déploiement, trouvez votre http_pub URL dans Mes commandes:

1. Accédez à Mes commandes la page

2. Cliquez sur votre commande

3. Trouvez le http_pub URL (par ex., abc123.clorecloud.net)

Utilisez https://YOUR_HTTP_PUB_URL au lieu de localhost dans les exemples ci-dessous.

Installation

git clone https://github.com/Rudrabha/Wav2Lip.git
cd Wav2Lip
pip install -r requirements.txt

# Télécharger les modèles pré-entraînés
mkdir -p checkpoints
wget "https://huggingface.co/spaces/wav2lip/wav2lip/resolve/main/checkpoints/wav2lip.pth" -P checkpoints/
wget "https://huggingface.co/spaces/wav2lip/wav2lip/resolve/main/checkpoints/wav2lip_gan.pth" -P checkpoints/

Utilisation de base

Ligne de commande

python inference.py \\
    --checkpoint_path checkpoints/wav2lip_gan.pth \
    --face input_video.mp4 \
    --audio audio.wav \
    --outfile output.mp4

Avec une image en entrée

python inference.py \\
    --checkpoint_path checkpoints/wav2lip_gan.pth \
    --face face_image.jpg \
    --audio speech.wav \
    --outfile talking.mp4

API Python

import subprocess

def wav2lip_sync(face_path, audio_path, output_path, checkpoint="checkpoints/wav2lip_gan.pth")】【：】【“】【t_dda85c8a":"--checkpoint_path", checkpoint,
    cmd = [
        "python", "inference.py",
        "--checkpoint_path", checkpoint,
        "--face", face_path,
        "--audio", audio_path,
        "--outfile", output_path
    ]
    subprocess.run(cmd, check=True)
    return output_path

# Utilisation
result = wav2lip_sync(
    face_path="video.mp4",
    audio_path="new_audio.wav",
    output_path="synced.mp4"
)

Options de qualité

Qualité standard (plus rapide)

python inference.py \\
    --checkpoint_path checkpoints/wav2lip.pth \
    --face input.mp4 \
    --audio audio.wav \
    --outfile output.mp4

Haute qualité (GAN)

python inference.py \\
    --checkpoint_path checkpoints/wav2lip_gan.pth \
    --face input.mp4 \
    --audio audio.wav \
    --outfile output.mp4 \
    --pads 0 10 0 0 \
    --resize_factor 1

Paramètres

python inference.py \\
    --checkpoint_path checkpoints/wav2lip_gan.pth \
    --face video.mp4 \
    --audio audio.wav \
    --outfile result.mp4 \
    --pads 0 10 0 0 \      # Remplissage : haut droite bas gauche
    --resize_factor 1 \    # Facteur de réduction
    --crop "0 -1 0 -1" \   # Région de recadrage
    --box "-1 -1 -1 -1" \  # Boîte du visage (détection automatique)
    --nosmooth            # Désactiver le lissage temporel

Conseils sur les marges

Position du visage	Marges recommandées
Centré	0 10 0 0
Gros plan	0 15 0 0
De loin	0 5 0 0

Traitement par lots

import os
import subprocess

def batch_wav2lip(faces_dir, audio_path, output_dir):
    os.makedirs(output_dir, exist_ok=True)

    for filename in os.listdir(faces_dir):
        if filename.endswith(('.mp4', '.jpg', '.png')):
            face_path = os.path.join(faces_dir, filename)
            output_path = os.path.join(output_dir, f"synced_{filename}")

            if filename.endswith(('.jpg', '.png')):
                output_path = output_path.rsplit('.', 1)[0] + '.mp4'

            cmd = [
                "python", "inference.py",
                "--checkpoint_path", "checkpoints/wav2lip_gan.pth",
                "--face", face_path,
                "--audio", audio_path,
                "--outfile", output_path
            ]

            try:
                subprocess.run(cmd, check=True)
                print(f"Processed: {filename}")
            except subprocess.CalledProcessError as e:
                print(f"Erreur lors du traitement de {filename} : {e}")

# Utilisation
batch_wav2lip("./faces", "speech.wav", "./outputs")

Interface Gradio

import gradio as gr
import subprocess
import tempfile
import os

def lip_sync(face_video, audio, quality):
    checkpoint = "checkpoints/wav2lip_gan.pth" if quality == "High (GAN)" else "checkpoints/wav2lip.pth"

    with tempfile.NamedTemporaryFile(suffix=".mp4", delete=False) as out_file:
        output_path = out_file.name

    cmd = [
        "python", "inference.py",
        "--checkpoint_path", checkpoint,
        "--face", face_video,
        "--audio", audio,
        "--outfile", output_path
    ]

    subprocess.run(cmd, check=True)
    return output_path

demo = gr.Interface(
    fn=lip_sync,
    inputs=[
        gr.Video(label="Vidéo/image du visage"),
        gr.Audio(type="filepath", label="Audio"),
        gr.Radio(["Standard", "High (GAN)"], value="High (GAN)", label="Qualité")
    ],
    outputs=gr.Video(label="Vidéo synchronisée au niveau des lèvres"),
    title="Wav2Lip - Synchronisation labiale"
)

demo.launch(server_name="0.0.0.0", server_port=7860)

Serveur API

from fastapi import FastAPI, UploadFile, File
from fastapi.responses import FileResponse
import tempfile
import subprocess
import os

app = FastAPI()

@app.post("/sync")
async def sync_lips(
    face: UploadFile = File(...),
    audio: UploadFile = File(...),
    quality: str = "gan"
):
    with tempfile.TemporaryDirectory() as tmpdir:
        # Enregistrer les fichiers téléversés
        face_ext = os.path.splitext(face.filename)[1]
        face_path = os.path.join(tmpdir, f"face{face_ext}")
        audio_path = os.path.join(tmpdir, "audio.wav")
        output_path = os.path.join(tmpdir, "output.mp4")

        with open(face_path, "wb") as f:
            f.write(await face.read())
        with open(audio_path, "wb") as f:
            f.write(await audio.read())

        # Exécuter Wav2Lip
        checkpoint = "checkpoints/wav2lip_gan.pth" if quality == "gan" else "checkpoints/wav2lip.pth"

        cmd = [
            "python", "inference.py",
            "--checkpoint_path", checkpoint,
            "--face", face_path,
            "--audio", audio_path,
            "--outfile", output_path
        ]

        subprocess.run(cmd, check=True)

        return FileResponse(output_path, media_type="video/mp4")

# Exécuter : uvicorn server:app --host 0.0.0.0 --port 8000

Pipeline TTS + Wav2Lip

Texte vers vidéo complet :

from TTS.api import TTS
import subprocess

def text_to_lipsync(text, face_path, output_path, language="en")】【：】【“】【t_5847de1b":"audio_path = "temp_speech.wav"
    # Générer la parole
    tts = TTS("tts_models/multilingual/multi-dataset/xtts_v2")
    audio_path = "temp_speech.wav"
    tts.tts_to_file(text=text, file_path=audio_path, language=language)

    # Synchronisation labiale
    cmd = [
        "python", "inference.py",
        "--checkpoint_path", "checkpoints/wav2lip_gan.pth",
        "--face", face_path,
        "--audio", audio_path,
        "--outfile", output_path
    ]
    subprocess.run(cmd, check=True)

    return output_path

# Utilisation
text_to_lipsync(
    "Bonjour, bienvenue à notre présentation.",
    "presenter.jpg",
    "talking_presenter.mp4"
)

Post-traitement

Améliorer la résolution du résultat

import subprocess

def upscale_video(input_path, output_path):
    cmd = [
        "python", "-m", "realesrgan",
        "--input", input_path,
        "--output", output_path,
        "--scale", "2"
    ]
    subprocess.run(cmd, check=True)

Réajouter l'audio

# Si l'audio a été perdu, réajoutez-le
ffmpeg -i synced_video.mp4 -i original_audio.wav \
    -c:v copy -c:a aac \
    -map 0:v:0 -map 1:a:0 \
    final_output.mp4

Dépannage

Visage non détecté

• Assurez-vous que le visage est clairement visible

• Bon éclairage

• Vue de face de préférence

• Entrée en haute résolution

Mauvaise qualité de synchronisation

• Utilisez wav2lip_gan.pth

• Ajustez le padding

• Vérifiez le taux d'échantillonnage audio (16 kHz recommandé)

Sortie saccadée

• Augmentez resize_factor

• Désactivez nosmooth

• Utilisez une vidéo d'entrée de meilleure qualité

Performances

Entrée	GPU	Temps de traitement
Vidéo de 10 s	RTX 3060	~30s
Vidéo de 10 s	RTX 4090	~15 s
Vidéo de 30 s	RTX 4090	~45 s
Image + 10 s d'audio	RTX 3090	~20 s

Comparaison avec SadTalker

Fonctionnalité	Wav2Lip	SadTalker
Précision des lèvres	Excellente	Bon
Mouvement de la tête	Aucune	Naturel
Expression	Aucune	Contrôlable
Vitesse	Plus rapide	Plus lent
Idéal pour	Doublage	Avatars

Estimation des coûts

Tarifs typiques du marché CLORE.AI (en 2024) :

GPU	Tarif horaire	Tarif journalier	Session de 4 heures
RTX 3060	~$0.03	~$0.70	~$0.12
RTX 3090	~$0.06	~$1.50	~$0.25
RTX 4090	~$0.10	~$2.30	~$0.40
A100 40 Go	~$0.17	~$4.00	~$0.70
A100 80 Go	~$0.25	~$6.00	~$1.00

Les prix varient selon le fournisseur et la demande. Vérifiez la place de marché CLORE.AI les tarifs actuels.

Économisez de l'argent :

• Utilisez le Spot marché pour les travaux interrompables — environ un tiers des serveurs ont un prix spot inférieur au tarif à la demande (médiane ~13 % de remise), les autres s'alignent dessus

• Payez avec CLORE jetons

• Comparez les prix entre différents fournisseurs

Étapes suivantes

• SadTalker - Mouvement de la tête + lèvres

• XTTS - Générer la parole

• Clonage vocal RVC - Conversion vocale