Qwen3-TTS वॉइस क्लोनिंग

Qwen3-TTS के साथ बहुभाषी वॉइस क्लोनिंग और TTS — 10+ भाषाएँ, स्ट्रीमिंग, भावना नियंत्रण

Alibaba का Qwen3-TTS एक अत्याधुनिक टेक्स्ट-टू-स्पीच मॉडल है जो समर्थन करता है 10+ भाषाएँ सिर्फ 3 सेकंड के ऑडियो से वॉइस क्लोनिंग के साथ। इसमें प्राकृतिक भाषा भावना नियंत्रण ("खुशी से बोलें", "धीरे से फुसफुसाएँ"), 97ms विलंबता वाला स्ट्रीमिंग, और दो मॉडल आकार (0.6B और 1.7B) शामिल हैं। Apache 2.0 के अंतर्गत जारी, यह उपलब्ध सबसे सक्षम ओपन-सोर्स TTS प्रणालियों में से एक है।

मुख्य विशेषताएँ

• 10+ भाषाएँ: अंग्रेज़ी, चीनी, जापानी, कोरियाई, फ़्रेंच, जर्मन, स्पेनिश, और भी बहुत कुछ

• 3-सेकंड वॉइस क्लोनिंग: किसी भी आवाज़ को एक छोटे ऑडियो सैंपल से क्लोन करें

• प्राकृतिक भावना नियंत्रण: सादे पाठ निर्देशों से शैली नियंत्रित करें

• स्ट्रीमिंग समर्थन: 97ms प्रथम-टोकन विलंबता — रीयल-टाइम ऐप्स के लिए बढ़िया

• दो आकार: 0.6B (4GB VRAM) और 1.7B (8GB VRAM)

• फाइन-ट्यून करने योग्य: कस्टम प्रशिक्षण के लिए बेस मॉडल उपलब्ध

• Apache 2.0 लाइसेंस: पूर्ण व्यावसायिक उपयोग

मॉडल वेरिएंट

मॉडल	पैरामीटर	VRAM	गुणवत्ता	गति	किसके लिए सर्वोत्तम
Qwen3-TTS-0.6B-Instruct	0.6B	4GB	अच्छा	तेज़	रीयल-टाइम, बजट GPU
Qwen3-TTS-1.7B-Instruct	1.7B	8GB	सर्वोत्तम	मध्यम	प्रोडक्शन-स्तर गुणवत्ता
Qwen3-TTS-0.6B-Base	0.6B	4GB	—	—	फाइन-ट्यूनिंग
Qwen3-TTS-1.7B-Base	1.7B	8GB	—	—	फाइन-ट्यूनिंग

आवश्यकताएँ

घटक	0.6B	1.7B
GPU	RTX 3060 6GB	RTX 3080 10GB
VRAM	4GB	8GB
RAM	8GB	16GB
डिस्क	5GB	10GB
Python	3.10+	3.10+

अनुशंसित Clore.ai GPU: 0.6B के लिए RTX 3060 ($0.03–0.07/घंटा), 1.7B के लिए RTX 3080 ($0.05–0.19/घंटा)

इंस्टॉलेशन

pip install transformers torch torchaudio soundfile

त्वरित शुरुआत — वॉइस क्लोनिंग

import torch
import torchaudio
from transformers import AutoModelForCausalLM, AutoProcessor

model_name = "Qwen/Qwen3-TTS-12Hz-1.7B-Instruct"
processor = AutoProcessor.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype=torch.float16,
    device_map="auto"
)

# संदर्भ वॉयस लोड करें (किसी भी आवाज़ के 3+ सेकंड)
reference_audio, sr = torchaudio.load("reference_voice.wav")

# उस आवाज़ की नकल करते हुए भाषण उत्पन्न करें
text = "Clore.ai के विकेंद्रीकृत GPU किराया बाज़ार में आपका स्वागत है।"
inputs = processor(
    text=text,
    audio=reference_audio,
    sampling_rate=sr,
    return_tensors="pt"
).to("cuda")

with torch.no_grad():
    output = model.generate(**inputs, max_new_tokens=2048)

# डिकोड करें और सहेजें
audio = processor.decode(output[0])
torchaudio.save("output.wav", audio.unsqueeze(0), 24000)

भावना नियंत्रण

# प्राकृतिक भाषा निर्देशों से भावना नियंत्रित करें
prompts = [
    ("खुशी और ऊर्जा के साथ बोलें", "बहुत अच्छी खबर! हमने अभी-अभी नया फ़ीचर लॉन्च किया है!"),
    ("धीरे और कोमलता से फुसफुसाएँ", "GPU मूल्य निर्धारण के बारे में मैं आपको एक राज़ बताता हूँ..."),
    ("पेशेवर और स्पष्ट रूप से बोलें", "तिमाही परिणाम राजस्व में 40% वृद्धि दिखाते हैं."),
    ("उत्साह के साथ बोलें", "आप बेंचमार्क परिणामों पर विश्वास नहीं करेंगे!"),
]

style, text के लिए prompts में:
    inputs = processor(
        text=text,
        style_prompt=style,
        audio=reference_audio,
        sampling_rate=sr,
        return_tensors="pt"
    ).to("cuda")
    
    output = model.generate(**inputs, max_new_tokens=2048)
    audio = processor.decode(output[0])
    torchaudio.save(f"output_{style[:10]}.wav", audio.unsqueeze(0), 24000)

बहुभाषी जनरेशन

# विभिन्न भाषाओं में जनरेट करें (उसी आवाज़ के साथ!)
texts = {
    "en": "नमस्ते, GPU मार्केटप्लेस में आपका स्वागत है.",
    "zh": "你好，欢迎来到GPU市场。",
    "ja": "こんにちは、GPUマーケットプレイスへようこそ。",
    "ko": "안녕하세요, GPU 마켓플레이스에 오신 것을 환영합니다.",
    "fr": "Bonjour, bienvenue sur le marché GPU.",
    "de": "Hallo, willkommen auf dem GPU-Marktplatz.",
}

for lang, text in texts.items():
    inputs = processor(
        text=text, audio=reference_audio, sampling_rate=sr,
        language=lang, return_tensors="pt"
    ).to("cuda")
    output = model.generate(**inputs, max_new_tokens=2048)
    audio = processor.decode(output[0])
    torchaudio.save(f"output_{lang}.wav", audio.unsqueeze(0), 24000)

अन्य TTS मॉडलों के साथ तुलना

विशेषता	Qwen3-TTS	Zonos	Dia	Kokoro	XTTS
भाषाएँ	10+	1 (अंग्रेज़ी)	1 (अंग्रेज़ी)	1 (अंग्रेज़ी)	17
वॉइस क्लोन	3 सेकंड	2-30 सेकंड	नहीं	नहीं	6 सेकंड
स्ट्रीमिंग	✅ (97ms)	❌	❌	❌	✅
भावना नियंत्रण	✅ प्राकृतिक	❌	✅ स्वचालित	❌	❌
मल्टी-स्पीकर	❌	❌	✅	❌	❌
न्यूनतम VRAM	4GB	8GB	8GB	2GB	6GB
लाइसेंस	Apache 2.0	Apache 2.0	Apache 2.0	Apache 2.0	AGPL

Clore.ai उपयोगकर्ताओं के लिए सुझाव

• RTX 3060 पर 0.6B: $0.03–0.07/घंटा पर सबसे अच्छा बजट विकल्प — अधिकांश TTS कार्यों के लिए पर्याप्त

• बैच प्रोसेसिंग: किराये के समय का अधिकतम उपयोग करने के लिए एक ही सत्र में सभी ऑडियो क्लिप जनरेट करें

• संदर्भ ऑडियो कैश करें: अपने वॉइस संदर्भों को स्थायी स्टोरेज पर रखें

• रीयल-टाइम के लिए स्ट्रीमिंग: चैटबॉट/असिस्टेंट अनुप्रयोगों के लिए स्ट्रीमिंग API का उपयोग करें

• कस्टम आवाज़ों के लिए फाइन-ट्यून करें: अपनी वॉइस डेटा पर बेस मॉडल को फाइन-ट्यून करने के लिए कुछ घंटों के लिए RTX 4090 किराए पर लें

समस्या निवारण

समस्या	समाधान
1.7B पर मेमोरी समाप्त	0.6B पर स्विच करें या उपयोग करें torch_dtype=torch.float16
वॉइस क्लोन गलत सुनाई देता है	5-10 सेकंड का साफ़ ऑडियो उपयोग करें (कोई बैकग्राउंड शोर नहीं)
गलत भाषा आउटपुट	स्पष्ट रूप से पास करें भाषा पैरामीटर
पहली जनरेशन धीमी	सामान्य — मॉडल पहली कॉल पर लोड होता है। बाद की कॉलें तेज़ होती हैं

अधिक पढ़ें

• HuggingFace मॉडल

• Qwen3-TTS दस्तावेज़ीकरण

• वॉइस क्लोनिंग गाइड