GPU buat TTS Auto-Lewat? Kyutai Labs Rilis Pocket TTS, Janjikan Suara Real-Time Cuma Modal CPU!

Jujur saja, siapa di sini yang nggak gemes sama model Text-to-Speech (TTS) modern? Kebanyakan minta hardware sekelas superkomputer atau langganan API bulanan yang bikin kantong jebol. Rasanya kayak mau nyalain senter tapi harus beli genset PLN dulu. Nah, di tengah dilema ini, muncul Pocket TTS: TTS Real-Time Open Source dari Kyutai Labs yang bikin banyak orang ngangkat alis. Klaimnya berani: TTS real-time, latensi rendah, tanpa perlu GPU. Cuma modal CPU. Seriusan?

Bye-bye GPU Mahal, Halo Efisiensi CPU!

Inilah punchline utama dari Pocket TTS. Kyutai Labs mendesain aplikasi ini sebagai solusi TTS yang ringan dan efisien di CPU. Ini bukan sekadar omongan kosong. Mereka menegaskan kalau kita bisa melupakan ribetnya setup GPU atau bayar mahal buat API web yang hosting model TTS. Cukup pip install dan panggil fungsinya. Simpel.

Kenapa ini jadi game changer? Bayangkan kalau selama ini kita butuh mobil balap buat nganter sayur. Model TTS lain seringkali begitu. Pocket TTS ini ibarat motor matic yang irit, gesit, dan bisa nyelip di kemacetan. Modelnya sendiri kecil, cuma 100M parameter. Ini ukuran yang sangat ramping dibanding raksasa AI lain. Dampaknya?

Latensi Rendah: Kita bicara respons ~200ms untuk audio chunk pertama. Artinya, tidak ada lagi jeda panjang yang bikin frustrasi. Ini krusial buat aplikasi interaktif atau asisten suara.
Lebih Cepat dari Real-Time: Di MacBook Air M4 dengan CPU, Pocket TTS bisa jalan ~6x lebih cepat dari real-time. Angka ini gila! Artinya, untuk setiap satu menit teks, ia bisa menghasilkan suara dalam waktu sekitar 10 detik. Bukan cuma cepat, tapi sangat cepat.
Hemat Sumber Daya: Cukup 2 CPU core saja. Bayangkan efisiensinya. Ini membuka pintu buat implementasi di hardware dengan sumber daya terbatas, seperti perangkat embedded atau bahkan client-side di browser.
Input Teks Tak Terbatas: Mau teks sepanjang apa pun, Pocket TTS sanggup handle. Jadi nggak perlu lagi motong-motong input atau khawatir limitasi.

Penting diingat, mereka memang mendesain ini untuk CPU. Jadi, buat para dev yang selama ini pusing mikirin biaya infrastruktur GPU atau user yang pengen TTS lokal di laptop kentang, ini berita bagus.

Bukan Sekadar Baca Teks: Fitur yang Bikin Ngiler

Pocket TTS ini bukan cuma jualan efisiensi. Fiturnya juga cukup lengkap, bikin pengembang punya banyak opsi buat ngoprek.

Kloning Suara Fleksibel: Ini salah satu fitur yang paling menarik. Bayangkan, cuma butuh file WAV sebagai input, Pocket TTS bisa mengkloning suara yang kita mau. Punya rekaman suara sendiri? Atau dapat dari library? Cemplungin, dan model akan mencoba meniru gaya bicaranya. Catatan penting: kualitas audio prompt itu penting, jadi Kyutai Labs menyarankan untuk membersihkan sampel audio sebelum dipakai. Ini seperti mengambil cetakan dari patung: kalau cetakannya kotor, hasilnya juga ikutan kotor.
Dukungan Multi-bahasa: Secara default, Pocket TTS sudah mendukung bahasa Inggris, Prancis, Jerman, Portugis, Italia, dan Spanyol. Tapi yang lebih gila lagi, komunitas di balik proyek ini sudah melatih model untuk bahasa lain, termasuk Pocket TTS Indonesian dari @anak10thn (6 layers)! Ini menunjukkan potensi adaptasinya yang luas.
API Python & CLI yang Mantap: Bagi developer, ini adalah roti dan mentega. Ada API Python yang bisa diintegrasikan langsung ke dalam codebase kita. Untuk user atau developer yang suka command line, ada CLI yang powerful dengan perintah generate untuk membuat file WAV, serve untuk menjalankan local server (dengan web interface di http://localhost:8000), dan export-voice untuk mengkonversi file audio menjadi format safetensors yang jauh lebih cepat dimuat untuk kloning suara di kemudian hari.

Ini sangat membantu. load_model() dan get_state_for_audio_prompt() memang butuh waktu awal, jadi disarankan untuk menyimpan model dan voice states di memori. Tapi dengan export-voice, kita bisa menyimpan "sidik jari" suara sebagai file .safetensors, yang bisa dimuat ulang dengan sangat cepat tanpa komputasi berat.

python
from pocket_tts import TTSModel, export_model_state
import scipy.io.wavfile

model = TTSModel.load_model()

# Export a voice state for fast loading later
model_state = model.get_state_for_audio_prompt("./some_voice.wav")
export_model_state(model_state, "./some_voice.safetensors")

# Later, load it quickly
model_state_copy = model.get_state_for_audio_prompt("./some_voice.safetensors")
audio = model.generate_audio(model_state_copy, "Hello world!")
scipy.io.wavfile.write("output.wav", model.sample_rate, audio.numpy())

Melangkah Jauh: Dari Browser Sampai Integrasi Ekosistem

Ukuran model yang kecil dan efisiensi CPU-nya membuka banyak kemungkinan implementasi. Kyutai Labs memang belum punya dukungan resmi untuk versi in-browser, tapi komunitas sudah bergerak cepat dengan implementasi WebAssembly/JavaScript, Rust, ONNX Runtime Web, dan lainnya. Ini artinya, Pocket TTS bisa jalan langsung di browser tanpa perlu server backend yang berat.

Tidak hanya itu, banyak proyek menarik yang sudah menggunakan Pocket TTS:

pocket-reader untuk screen reader di browser.
pocket-tts-wyoming untuk integrasi dengan Home Assistant Voice.
Sonorus yang memungkinkan karakter di Hogwarts Legacy "berbicara" dengan suara aslinya.
Aplikasi macOS native dan Electron, server streaming kompatibel OpenAI, integrasi Unity, ComfyUI, Discord bot, AI coding agent, sampai audiobook generator otomatis.

Ini bukan sekadar library di GitHub. Ini sudah jadi bagian dari ekosistem yang berkembang pesat.

Bahasa Indonesia Ikut Nongkrong: Komunitas Gak Mau Ketinggalan

Bagian ini penting buat kita di Indonesia. Seperti yang sudah disinggung, komunitas pengembang sudah melatih model untuk berbagai bahasa, dan salah satunya adalah Pocket TTS Indonesian oleh @anak10thn! Ini kabar baik bagi developer atau content creator lokal yang membutuhkan solusi TTS yang efisien untuk bahasa Indonesia.

Bagaimana cara menggunakannya? Cukup panggil model dengan opsi --config yang merujuk ke file .yaml dari model komunitas tersebut.

bash
uvx pocket-tts generate \
  --config hf://anak10thn/pocket-tts-indonesian/indonesian_6l.yaml@6196fe14c6c2108332c16d33c864c8901c044aaa \
  --text "Selamat pagi. Ini model sintesis suara bahasa Indonesia."

Ini menunjukkan betapa fleksibelnya Pocket TTS dan semangat komunitas open source yang ingin memperluas jangkauannya.

Tunggu Dulu, GPU Masih Berguna?

Meskipun Pocket TTS didesain untuk CPU, ada pertanyaan wajar: bagaimana kalau saya punya GPU? Kyutai Labs mengakui bahwa di hardware dengan performa single-thread CPU yang sangat kuat (misalnya Apple Silicon), mereka tidak melihat speedup yang signifikan dengan GPU. Ini masuk akal, mengingat ukuran modelnya yang kecil dan penggunaan batch size 1.

Namun, situasinya bisa berbeda tergantung hardware. Pada cloud x86 VM dengan Tesla T4, memindahkan model ke GPU memberikan speedup konsisten ~2.6x dibandingkan CPU (RTF ~6.28x di GPU vs ~2.3-2.5x di CPU). Jadi, kalau CPU kamu bukan tipe high-end atau lebih terbatas thread-nya, mencoba pakai GPU bisa jadi pilihan.

Memang belum officially supported dengan argumen device di TTSModel.load_model(), tapi karena ini regular nn.Module PyTorch, kita bisa memindahkannya secara manual:

python
from pocket_tts import TTSModel
import scipy.io.wavfile
import torch

tts_model = TTSModel.load_model()
tts_model.to("cuda") # Pindahkan model ke GPU

voice_state = tts_model.get_state_for_audio_prompt("alba")
audio = tts_model.generate_audio(voice_state, "Hello world, this is a test.")

# Audio akan ada di GPU, perlu dipindahkan ke CPU sebelum ke numpy
scipy.io.wavfile.write(
    "output.wav",
    tts_model.sample_rate,
    audio.detach().cpu().numpy()
)

Ada beberapa caveat: quantize=True (int8 dynamic quantization) hanya bekerja di CPU. Juga, pastikan versi PyTorch CUDA yang terinstal cocok dengan driver GPU kamu untuk menghindari masalah. Ini menunjukkan sikap pragmatis Kyutai Labs: utama di CPU, tapi kalau GPU ngasih boost di skenario tertentu, silakan coba.

Pentingnya Etika: Batasan Penggunaan yang Wajib Dipahami

Sebagai jurnalis teknologi, saya selalu menekankan aspek etika dalam AI. Kyutai Labs dengan tegas menyatakan larangan penggunaan model mereka untuk:

Impersonasi atau kloning suara tanpa persetujuan sah. Ini krusial untuk mencegah penipuan.
Misinformasi, disinformasi, atau penipuan (termasuk berita palsu atau menyajikan konten hasil generate sebagai rekaman asli).
Pembuatan konten ilegal, berbahaya, memfitnah, melecehkan, diskriminatif, penuh kebencian, atau invasif privasi.

Mereka melepaskan semua tanggung jawab atas penggunaan yang tidak patuh. Ini adalah standar yang bagus dan harus jadi pengingat bagi setiap developer atau user yang ingin memanfaatkan teknologi TTS ini.

Kesimpulan: Game Changer atau Sekadar Hype?

Pocket TTS dari Kyutai Labs jelas bukan sekadar hype. Ini adalah bukti nyata bahwa AI, khususnya di ranah Text-to-Speech, tidak harus selalu butuh resource monster. Dengan fokus pada efisiensi CPU, model kecil, latensi rendah, dan performa real-time, mereka berhasil menurunkan barrier to entry secara signifikan.

Bagi developer, ini artinya bisa membuat aplikasi TTS yang lebih terjangkau, bisa jalan di mana saja, bahkan di edge devices. Bagi user, ini membuka pintu ke asisten suara atau tool TTS yang personal dan responsif tanpa perlu khawatir biaya langganan API atau upgrade PC gaming. Dukungan komunitas yang kuat, dengan model bahasa Indonesia dan berbagai proyek integrasi, semakin menguatkan posisinya.

Pocket TTS adalah langkah maju yang pragmatis. Ini menunjukkan bahwa inovasi di dunia AI tidak selalu tentang model terbesar atau GPU tercepat, tapi juga tentang efisiensi dan aksesibilitas. Sebuah solusi yang bisa berjalan mulus di CPU kita, itu baru namanya gebrakan!

Referensi

https://github.com/kyutai-labs/pocket-tts

Tags : Voice Cloning Kyutai Labs Python Machine Learning AI CPU Open-Source TTS Text-to-Speech