何时使用聊天界面
聊天界面让您可以在浏览器中测试和与训练模型交互。功能
聊天界面(aitraining chat)提供:
- 与训练模型的交互式对话
- 实时响应生成
- 对话历史
- 模型参数调整(temperature、max tokens 等)
最适合
- 测试训练模型 - 验证您的微调模型是否按预期工作
- 快速实验 - 尝试不同的 prompts 和参数
- 演示 - 向利益相关者展示您的模型能做什么
- 调试 - 识别模型响应中的问题
外观
在浏览器中打开聊天界面:- 在聊天框中输入消息
- 实时查看模型响应
- 调整生成参数
- 查看对话历史
启动聊天界面
http://localhost:7860。
工作流程示例
- 使用 CLI 训练模型:
aitraining llm --train ... - 启动聊天界面:
aitraining chat - 在浏览器中打开
localhost:7860 - 选择您的训练模型
- 开始聊天以测试响应
- 根据需要调整 temperature/参数
- 如需要,迭代训练
优势
- 即时反馈 - 立即查看响应
- 无需编码 - 只需输入和聊天
- 可视化界面 - 易于使用
- 参数调整 - 实时调整生成设置
限制
- 不用于训练 - 使用 CLI 或 API 进行训练
- 仅本地 - 必须访问运行它的机器
- 单个模型 - 一次测试一个模型
何时使用其他方式
当您需要以下功能时使用 CLI:- 需要训练模型
- 想要自动化工作流程
- 需要批处理
- 想要可重现的实验
- 构建应用程序
- 需要程序化控制
- 与其他系统集成
- 部署到生产环境
常见用例
训练后验证
“我的微调是否有效?”- 加载训练模型
- 使用示例 prompts 测试
- 验证响应质量
参数探索
“什么 temperature 效果最好?”- 尝试不同的生成设置
- 立即查看效果
- 找到最佳参数
演示准备
“向团队展示我们构建的内容”- 可视化,易于理解
- 交互式演示
- 无需技术设置
提示
- 从低 temperature 开始 - 测试时响应更一致
- 保存好的 prompts - 记录有效的内容
- 比较模型 - 测试微调前后
- 检查边缘情况 - 尝试不寻常的输入