html 🗨️ Kokoro-fastapi usando o Docker | Nullcore
Pule para o conteúdo principal

🗨��A

aviso

Este tutorial é uma contribuição da comunidade e não é suportado pela equipe Nullcore. Serve apenas como uma demonstração sobre como personalizar o Nullcore para o seu caso de uso específico. Quer contribuir? Confira o tutorial contribuinte.

O que éKokoro-FastAPI

Kokoro-Fastapié um invólucro de fastapi do dockerizado para oKokoro-82mModelo de texto em fala que implementa a especificação de terminal da API OpenAI. Oferece texto em fala de alto desempenho com velocidades impressionantes de geração.

Principais recursos

  • Terminal de fala compatível com o OpenAI com combinação de voz embutida
  • Nvidia GPU acelerou ou CPU OnNX Inferência
  • Suporte de streaming com chunking variável
  • Suporte de formato de áudio múltiplo (.mp3, Assim,.wav, Assim,.opus, Assim,.flac, Assim,.aac, Assim,.pcm
  • Interface da Web integrada no localhost: 8880/web (ou contêiner adicional no repositório para graduação)
  • Terminais de fonemas para conversão e geração

Vozes

  • AF
  • af_bella
  • af_irulan
  • af_nicole
  • af_sarah
  • af_sky
  • am_adam
  • am_michael
  • AM_GURNEY
  • BF_EMMA
  • bf_isabella
  • bm_george
  • BM_LEWIS

Idiomas

  • en_us
  • en_uk

Requisitos

  • Docker instalado em seu sistema
  • Nullcore em execução
  • Para suporte à GPU: NVIDIA GPU com CUDA 12.3
  • Para apenas CPU: nenhum requisito especial

Start Início rápido

Você pode escolher entre versões de GPU ou CPU

Versão da GPU (requer GPU da NVIDIA com CUDA 12.8)

Usando o Docker Run:

Docker Run--gpus all -p 8880: 8880 ghcr.io/remsky/kokoro-ftapi-gpu

Ou compor Docker, criando umdocker-compose.ymlarquivo e execuçãodocker compose up. Por exemplo:

nomeKokoro
serviços
    Kokoro-Fastapi-GPU
        portas
            88808880
        imagemghcr.io/remsky/kokoroFASTAPIGPUv0.2.1
        reiniciarsempre
        implantar
            recursos
                reservas
                    dispositivos
                         motoristanvidia
                          contartodos
                          recursos
                              GPU
informações

Pode ser necessário instalar e configuraro kit de ferramentas de contêiner nvidia

Versão da CPU (inferência otimizada do ONNX)

Com Docker Run:

Docker Run -P 8880: 8880 ghcr.io/remsky/kokoro-ftapi-cpu

Com o Docker compor:

nomeKokoro
serviços
    Kokoro-Fastapi-CPU
        portas
            88808880
        imagemghcr.io/remsky/kokoroFASTAPICPU
        reiniciarsempre

Configurando o webui aberto para usarKokoro-FastAPI

Para usar o Kokoro-Fastapi com o Nullcore, siga estas etapas:

  • Abra o painel de administrador e vá paraSettingsAudio
  • Defina suas configurações TTS para corresponder ao seguinte:
    • Motor de texto em fala: OpenAI
    • URL base da API:http://localhost:8880/v1# você pode precisar usarhost.docker.internalem vez delocalhost
    • Chave da API:not-needed
    • Modelo TTS:kokoro
    • VOZ TTS:af_bella# também aceita mapeamento de vozes OAI existentes para compatibilidade
informações

A chave da API padrão é a stringnot-needed. Você não precisa alterar esse valor se não precisar da segurança adicional.

Construindo o recipiente do docker

Git clone https://github.com/remsky/kokoro-ftapi.git
CD KOKORO-FASTAPI
CD Docker/CPU # ou Docker/GPU
Docker compõe -building

É isso!

Para obter mais informações sobre a construção do contêiner do docker, incluindo alterações de portas, consulte oKokoro-Fastapirepositório