Tener Conversaciones
Una vez que un modelo está cargado, puedes comenzar a chatear.Enviar Mensajes
- Escribe tu mensaje en la caja de entrada
- Presiona Enter o haz clic en Enviar
- Espera a que el modelo responda
- Continúa la conversación
Contexto de Conversación
El chat mantiene el historial de conversación:- Cada mensaje que envías incluye el contexto anterior
- El modelo “recuerda” lo que has discutido
- Las conversaciones más largas usan más memoria
Ventana de Contexto
Los modelos tienen una longitud máxima de contexto:| Modelo | Longitud de Contexto |
|---|---|
| Llama 3.2 (1B/3B) | 128K tokens |
| Llama 3.1 | 128K tokens |
| Mistral 7B v0.3 | 32K tokens |
| Gemma 2 | 8K tokens |
| Qwen 2.5 | 128K tokens |
Las longitudes de contexto varían según la versión del modelo. Consulta la tarjeta del modelo en Hugging Face para especificaciones exactas.
Consejos de Conversación
Para Probar Modelos Fine-tuned
Prueba con prompts similares a tus datos de entrenamiento:Para Evaluar Calidad
Haz preguntas que revelen las capacidades del modelo:- Factual: “What is the capital of France?”
- Razonamiento: “If A > B and B > C, is A > C?”
- Creativo: “Write a haiku about programming”
- Específico del dominio: Preguntas de tu dominio de fine-tuning
Para Encontrar Problemas
Prueba casos extremos:- Entradas muy cortas (“Hi”)
- Entradas muy largas
- Caracteres o formato inusuales
- Preguntas fuera del dominio de entrenamiento
- Intentos de confundir al modelo
Limpiar Historial
Para empezar de nuevo:- Busca el botón “Clear” o “New Chat”
- O recarga la página
- Pruebas diferentes escenarios
- El contexto se vuelve muy largo
- Inicias una nueva demostración