html Ferramentas e funções e funções | Nullcore
Pule para o conteúdo principal

🛠️ Ferramentas e funções

Imagine que você acabou de tropeçar no webui aberto, ou talvez já esteja usando, mas está um pouco perdido com toda a conversa sobre "ferramentas", "funções" e "pipelines". Tudo parece um jargão técnico misterioso, certo? Sem problemas! Vamos dividi -lo de peça por peça, super claramente, passo a passo. No final disso, você terá um sólido entendimento do que esses termos significam, como eles funcionam e por que saber que não é tão complicado quanto parece.

Tl; dr

  • FerramentasEstenda as habilidades do LLMS, permitindo que eles coletem dados do mundo real, em tempo real, como clima, preços das ações, etc.
  • FunçõesEstenda os recursos do próprio webui aberto, permitindo que você adicione um novo suporte ao modelo de IA (como antropic ou vértice AI) ou melhore a usabilidade (como criar botões ou filtros personalizados).
  • Pipelinessão mais para usuários avançados que desejam transformar os recursos abertos do WebUI em fluxos de trabalho compatíveis com API-principalmente para descarregar o processamento pesado.

Introdução com ferramentas e funções é fácil, porque tudo já está embutido no sistema principal! Você apenasClique em um botãoeimportar esses recursos diretamente da comunidade, portanto, não há um trabalho técnico de codificação ou profundo.

O que são "ferramentas" e "funções"?

Vamos começar pensando emNullcoreComo um software "base" que pode realizar muitas tarefas relacionadas ao uso de grandes modelos de idiomas (LLMS). Mas às vezes você precisa de recursos ou habilidades extras que não vêmfora da caixa- é ondeferramentasefunçõesentrar em jogo.

Ferramentas

Ferramentassão um recurso emocionante, porque permitem que o LLMS faça mais do que apenas processar o texto. Eles fornecemhabilidades externasQue o LLMS não teria por conta própria.

Exemplo de uma ferramenta:

Imagine que você está conversando com um LLM e deseja que ele ofereça a última atualização climática ou os preços das ações em tempo real. Normalmente, o LLM não pode fazer isso porque está apenas trabalhando em conhecimento pré-treinado. É aqui queferramentasentre!

  • Ferramentas são como pluginsque o LLM pode usar para reunirDados em tempo real do mundo real. Portanto, com uma "ferramenta meteorológica" ativada, o modelo pode sair na Internet, reunir dados climáticos ao vivo e exibi -los em sua conversa.

As ferramentas são essencialmentehabilidadesVocê está dando sua IA para ajudá -la a interagir com o mundo exterior. Ao adicioná -los, o LLM pode "pegar" informações úteis ou executar tarefas especializadas com base no contexto da conversa.

Exemplos de ferramentas (estendendo as habilidades da LLM):

  1. Previsões climáticas em tempo real
  2. Preço das ações Retrievers
  3. Informações de rastreamento de vôo

Funções

Enquantoferramentassão usados ​​pela IA durante uma conversa,funçõesAjude a estender ou personalizar os recursos do próprio webui aberto. Imagine ferramentas são como adicionar novos ingredientes a um prato, e as funções são o processo que você usa para controlar a cozinha! 🚪

Vamos quebrar isso:

  • FunçõesDê a você a capacidade de ajustar ou adicionarcaracterísticasdentroNullcoreem si.
  • Você não está dando novas habilidades ao LLM, mas, em vez disso, está estendendo ointerface, comportamento ou lógicada própria plataforma!

Por exemplo, talvez você queira:

  1. Adicione um novo modelo de IA comoAntrópicopara o webui.
  2. Crie um botão personalizado na sua barra de ferramentas que execute um comando usada com frequência.
  3. Implementar um melhorfiltrofunção que captura inadequada oumensagens spamdo texto recebido.

Sem funções, tudo isso estaria fora de alcance. Mas com essa estrutura no Nullcore, você pode estender facilmente esses recursos!

Onde encontrar e gerenciar funções

As funções não estão localizadas no mesmo local que as ferramentas.

  • Ferramentassão sobre acesso ao modelo e vivem em seuGuias do espaço de trabalho(onde você adiciona modelos, prompts e coleções de conhecimento). Eles podem ser adicionados pelos usuários se conceder permissões.
  • Funçõessão sobrePersonalização da plataformae são encontrados noPainel de Administração
    Eles são configurados e gerenciados apenas por administradores que desejam estender a interface ou comportamento da plataforma para todos os usuários.

Resumo das diferenças:

  • Ferramentassão coisas que permitem que os LLMsFaça mais coisasFora de suas habilidades padrão (como recuperar informações ao vivo ou executar tarefas personalizadas com base em dados externos).
  • FunçõesAjude o próprio webuiFaça mais coisas, como adicionar novos modelos de IA ou criar maneiras mais inteligentes de filtrar dados.

Ambos foram projetados para sertravável, o que significa que você pode importá -los facilmente para o seu sistema com apenas um clique da comunidade! 🎉 Você não precisará passar horas codificando ou mexendo com eles.

O que são pipelines?

E então, temosPipelines... Aqui é onde as coisas começam a parecer bastante técnicas - mas não se desespere.

Pipelinesfazem parte de uma iniciativa Nullcore focada em tornar todas as partes da webuiInteroperável com o sistema de API do OpenAI. Essencialmente, eles estendem o que ambosFerramentaseFunçõesJá pode fazer, mas agora com ainda mais flexibilidade. Eles permitem que você transforme os recursos em formatos compatíveis com API OpenAI. 🧠

Mas aqui está a coisa ...

Você provavelmentenão precisaráPipelines, a menos que você esteja lidando com configurações super-avançadas.

  • Para quem são oleodutos?Tipicamente,especialistasou pessoas executando casos de uso mais complicados.
  • Quando você precisa deles?Se você está tentando descarregar o processamento da sua instância primária do WebUI para uma máquina diferente (para não sobrecarregar seu sistema primário).

Na maioria dos casos, como iniciante ou mesmo um usuário intermediário, você não precisará se preocupar com pipelines. Apenas concentre -se em desfrutar dos benefícios queferramentasefunçõesTraga para a sua experiência aberta da Webui!

Quer tentar? 🚀

Entre em Webui aberto, vá para a seção da comunidade e tente importar uma ferramenta comoAtualizações meteorológicasOu talvez adicionar um novo recurso à barra de ferramentas com uma função. Explorar essas ferramentas mostrará o quão poderoso e flexível o webui aberto pode ser!

🌟 Sempre há mais para aprender, então fique curioso e continue experimentando!