Saltar al contenido principal

Cuándo Usar la Interfaz de Chat

La interfaz de Chat te permite probar e interactuar con tus modelos entrenados en un navegador.

Qué Hace

La interfaz de Chat (aitraining chat) proporciona:
  • Conversación interactiva con tus modelos entrenados
  • Generación de respuestas en tiempo real
  • Historial de conversación
  • Ajuste de parámetros del modelo (temperature, max tokens, etc.)

Mejor Para

  • Probar modelos entrenados - Verifica que tu modelo fine-tuneado funciona como se espera
  • Experimentación rápida - Prueba diferentes prompts y parámetros
  • Demos - Muestra a las partes interesadas lo que tu modelo puede hacer
  • Depuración - Identifica problemas en respuestas del modelo

Cómo Se Ve

Abre tu navegador a la interfaz de chat:
  • Escribe mensajes en un cuadro de chat
  • Ve respuestas del modelo en tiempo real
  • Ajusta parámetros de generación
  • Ve historial de conversación

Iniciando la Interfaz de Chat

# Iniciar la interfaz de chat
aitraining chat

# Con puerto personalizado
aitraining chat --port 7860

# Con host personalizado
aitraining chat --host 0.0.0.0 --port 7860
Luego abre http://localhost:7860 en tu navegador.

Ejemplo de Flujo de Trabajo

  1. Entrena tu modelo con CLI: aitraining llm --train ...
  2. Inicia interfaz de chat: aitraining chat
  3. Abre navegador a localhost:7860
  4. Selecciona tu modelo entrenado
  5. Comienza a chatear para probar respuestas
  6. Ajusta temperature/parámetros según sea necesario
  7. Itera en entrenamiento si es necesario

Ventajas

  • Feedback inmediato - Ve respuestas instantáneamente
  • Sin código requerido - Solo escribe y chatea
  • Interfaz visual - Fácil de usar
  • Ajuste de parámetros - Ajusta configuraciones de generación en tiempo real

Limitaciones

  • No para entrenar - Usa CLI o API para entrenar
  • Solo local - Debes acceder a la máquina que lo ejecuta
  • Modelo único - Prueba un modelo a la vez

Cuándo Usar Algo Más

Usa CLI cuando:
  • Necesitas entrenar modelos
  • Quieres automatizar flujos de trabajo
  • Necesitas procesamiento por lotes
  • Quieres experimentos reproducibles
Usa API cuando:
  • Construyes aplicaciones
  • Necesitas control programático
  • Integras con otros sistemas
  • Despliegas a producción

Casos de Uso Comunes

Verificación Post-Entrenamiento

“¿Funcionó mi fine-tuning?”
  • Carga modelo entrenado
  • Prueba con prompts de muestra
  • Verifica calidad de respuesta

Exploración de Parámetros

“¿Qué temperature funciona mejor?”
  • Prueba diferentes configuraciones de generación
  • Ve efectos inmediatamente
  • Encuentra parámetros óptimos

Preparación de Demo

“Muestra al equipo lo que construimos”
  • Visual, fácil de entender
  • Demostración interactiva
  • Sin configuración técnica necesaria

Consejos

  1. Comienza con temperature baja - Respuestas más consistentes para pruebas
  2. Guarda buenos prompts - Documenta lo que funciona
  3. Compara modelos - Prueba antes/después de fine-tuning
  4. Verifica casos límite - Prueba entradas inusuales

Próximos Pasos