Pular para o conteúdo principal

Quando Usar a Interface de Chat

A interface Chat permite que você teste e interaja com seus modelos treinados em um navegador.

O Que Faz

A interface Chat (aitraining chat) fornece:
  • Conversa interativa com seus modelos treinados
  • Geração de resposta em tempo real
  • Histórico de conversação
  • Ajuste de parâmetros do modelo (temperature, max tokens, etc.)

Melhor Para

  • Testar modelos treinados - Verifique se seu modelo com fine-tuning funciona como esperado
  • Experimentações rápidas - Experimente diferentes prompts e parâmetros
  • Demos - Mostre às partes interessadas o que seu modelo pode fazer
  • Depuração - Identifique problemas nas respostas do modelo

Como Parece

Abra seu navegador na interface de chat:
  • Digite mensagens em uma caixa de chat
  • Veja respostas do modelo em tempo real
  • Ajuste parâmetros de geração
  • Visualize histórico de conversação

Iniciando a Interface de Chat

# Iniciar a interface de chat
aitraining chat

# Com porta personalizada
aitraining chat --port 7860

# Com host personalizado
aitraining chat --host 0.0.0.0 --port 7860
Então abra http://localhost:7860 no seu navegador.

Exemplo de Fluxo de Trabalho

  1. Treine seu modelo com CLI: aitraining llm --train ...
  2. Inicie interface de chat: aitraining chat
  3. Abra navegador em localhost:7860
  4. Selecione seu modelo treinado
  5. Comece a conversar para testar respostas
  6. Ajuste temperature/parâmetros conforme necessário
  7. Itere no treinamento se necessário

Vantagens

  • Feedback imediato - Veja respostas instantaneamente
  • Sem código necessário - Apenas digite e converse
  • Interface visual - Fácil de usar
  • Ajuste de parâmetros - Ajuste configurações de geração em tempo real

Limitações

  • Não é para treinamento - Use CLI ou API para treinamento
  • Apenas local - Deve acessar a máquina que está executando
  • Modelo único - Teste um modelo por vez

Quando Usar Outra Coisa

Use CLI quando você:
  • Precisa treinar modelos
  • Quer automatizar fluxos de trabalho
  • Precisa de processamento em lote
  • Quer experimentos reproduzíveis
Use API quando você:
  • Está construindo aplicações
  • Precisa de controle programático
  • Integra com outros sistemas
  • Implanta em produção

Casos de Uso Comuns

Verificação Pós-Treinamento

“Meu fine-tuning funcionou?”
  • Carregue modelo treinado
  • Teste com prompts de exemplo
  • Verifique qualidade da resposta

Exploração de Parâmetros

“Qual temperature funciona melhor?”
  • Experimente diferentes configurações de geração
  • Veja efeitos imediatamente
  • Encontre parâmetros ótimos

Preparação de Demo

“Mostre à equipe o que construímos”
  • Visual, fácil de entender
  • Demonstração interativa
  • Sem configuração técnica necessária

Dicas

  1. Comece com temperature baixa - Respostas mais consistentes para testes
  2. Salve bons prompts - Documente o que funciona
  3. Compare modelos - Teste antes/depois do fine-tuning
  4. Verifique casos extremos - Experimente entradas incomuns

Próximos Passos