跳转到主要内容

何时使用聊天界面

聊天界面让您可以在浏览器中测试和与训练模型交互。

功能

聊天界面(aitraining chat)提供:
  • 与训练模型的交互式对话
  • 实时响应生成
  • 对话历史
  • 模型参数调整(temperature、max tokens 等)

最适合

  • 测试训练模型 - 验证您的微调模型是否按预期工作
  • 快速实验 - 尝试不同的 prompts 和参数
  • 演示 - 向利益相关者展示您的模型能做什么
  • 调试 - 识别模型响应中的问题

外观

在浏览器中打开聊天界面:
  • 在聊天框中输入消息
  • 实时查看模型响应
  • 调整生成参数
  • 查看对话历史

启动聊天界面

# 启动聊天界面
aitraining chat

# 使用自定义端口
aitraining chat --port 7860

# 使用自定义主机
aitraining chat --host 0.0.0.0 --port 7860
然后在浏览器中打开 http://localhost:7860

工作流程示例

  1. 使用 CLI 训练模型:aitraining llm --train ...
  2. 启动聊天界面:aitraining chat
  3. 在浏览器中打开 localhost:7860
  4. 选择您的训练模型
  5. 开始聊天以测试响应
  6. 根据需要调整 temperature/参数
  7. 如需要,迭代训练

优势

  • 即时反馈 - 立即查看响应
  • 无需编码 - 只需输入和聊天
  • 可视化界面 - 易于使用
  • 参数调整 - 实时调整生成设置

限制

  • 不用于训练 - 使用 CLI 或 API 进行训练
  • 仅本地 - 必须访问运行它的机器
  • 单个模型 - 一次测试一个模型

何时使用其他方式

当您需要以下功能时使用 CLI:
  • 需要训练模型
  • 想要自动化工作流程
  • 需要批处理
  • 想要可重现的实验
当您需要以下功能时使用 API:
  • 构建应用程序
  • 需要程序化控制
  • 与其他系统集成
  • 部署到生产环境

常见用例

训练后验证

“我的微调是否有效?”
  • 加载训练模型
  • 使用示例 prompts 测试
  • 验证响应质量

参数探索

“什么 temperature 效果最好?”
  • 尝试不同的生成设置
  • 立即查看效果
  • 找到最佳参数

演示准备

“向团队展示我们构建的内容”
  • 可视化,易于理解
  • 交互式演示
  • 无需技术设置

提示

  1. 从低 temperature 开始 - 测试时响应更一致
  2. 保存好的 prompts - 记录有效的内容
  3. 比较模型 - 测试微调前后
  4. 检查边缘情况 - 尝试不寻常的输入

下一步