kyutai-labs/pocket-tts

📌 【kyutai-labs】Pocket TTS：無需 GPU 也能實現低延遲、即時語音合成

TL;DR：輕量化 TTS 應用，僅 100M 引數且支援 CPU 運作，首個音訊片段延遲僅約 200ms。

對於需要部署語音合成（TTS）的工程師來說，最頭痛的通常是龐大的 GPU 記憶體需求或依賴不穩定的 Web API。如果一個模型能直接在 CPU 上高效運作，且延遲低到足以實現即時互動，部署成本將大幅降低。

🧩 100M 引數的小模型，專為 CPU 最佳化

Pocket TTS 是一個輕量級的 TTS 應用，其核心設計目標是擺脫對 GPU 的依賴。根據專案說明，該模型僅有 100M 引數，使其能夠在資源受限的環境中高效執行。

其效能表現亮眼，在 MacBook Air M4 的 CPU 上，僅使用 2 個 CPU 核心即可達到約 6 倍於即時（real-time）的生成速度。

📊 低延遲的串流輸出與多國語言支援

為了提升使用者體驗，Pocket TTS 專注於降低首個音訊片段（first audio chunk）的產生時間，延遲約為 200ms，並支援音訊串流（Audio streaming）輸出。

其功能特性包括：

• 多語言支援：目前支援英文、法文、德文、葡萄牙文、義大利文及西班牙文。
• 長文本處理：可處理無限長度的文字輸入。
• 靈活部署：除了 Python API 與 CLI 介面，甚至可以直接在瀏覽器端（client-side）執行。
• 進階功能：支援語音複製（Voice cloning）。

⚙️ 快速部署與安裝指南

Pocket TTS 降低了環境配置的門檻，不需要安裝 GPU 版本的 PyTorch。

• 環境要求：Python 3.10 至 3.14 版本，且需 PyTorch 2.5+。
• 安裝方式：可透過 pip install pocket-tts 手動安裝，或使用 uv 在隔離環境中快速執行。
• 快速使用：透過 CLI 的 generate 指令即可直接生成 .wav 音訊檔案。

🎯 實務啟示

Pocket TTS 的出現讓 TTS 部署從「伺服器端 GPU」轉向「客戶端 CPU」成為可能。對於開發邊緣運算應用、本地化 AI 助手或需要低成本部署語音功能的工程師來說，這種無需 GPU 且具備極低延遲的實作方式，能顯著減少基礎設施成本並提升隱私性。

🔗 來源

• 標題：kyutai-labs/pocket-tts
• 作者／機構：kyutai-labs
• 連結：https://github.com/kyutai-labs/pocket-tts

#TTS #TextToSpeech #CPU #LightweightAI #EdgeComputing #Kyutai #VoiceCloning #Python #OpenSource #LowLatency