Tubos
Os tubos são funções independentes que processam entradas e geram respostas, possivelmente invocando um ou mais LLMs ou serviços externos antes de retornar os resultados ao usuário. Exemplos de ações em potencial que você pode executar com os tubos são a geração aumentada de recuperação (RAG), enviando solicitações a provedores não-Openai LLM (como antropia, Azure OpenAi ou Google) ou funções de execução diretamente em sua interface do usuário da web. Os tubos podem ser hospedados como uma função ou em um servidor de pipelines. Uma lista de exemplos é mantida noPipelines repo. O fluxo de trabalho geral pode ser visto na imagem abaixo.
Os tubos definidos em seu webui aparecem como um novo modelo com uma designação "externa" anexada a eles. Um exemplo de dois modelos de tubulação,Database RAG PipelineeDOOM, pode ser visto abaixo ao lado de dois modelos auto-hospedados:
