AI 模型

设置配置 > AI 模型 是 HeiChat 正式上线前最重要的测试页之一。

这个页面主要做什么

你可以在这里:

  • 选择 HeiChat 使用的模型
  • 对比代币倍率
  • 先在后台测试回答效果
  • 判断更高质量是否值得更高成本

一个更实用的测试流程

1. 先准备真实问题

建议用你店铺里真实会遇到的问题测试,例如:

  • 商品推荐
  • 配送和退款问题
  • 订单相关问题
  • 对品牌很关键的边界场景

2. 不要只测一个模型

建议同时试:

  • 基础模型,看成本效率
  • 高级或高端模型,看准确率上限

比较时重点看:

  • 回答准确性
  • 商品推荐效果
  • 语气是否合适
  • 代币消耗是否可接受

3. 先排除配置问题

如果回答效果不好,不一定是模型问题。

优先检查:

  • 商品推荐不准时,先看已学习商品
  • 店铺特有问题答不好时,先看知识库

很多质量问题其实来自数据不完整,而不是模型本身。

4. 后台测试通过再上线

如果你想更稳妥:

  1. 先不要急着开启前台组件
  2. 先在后台测试模型并补知识
  3. 满意后再正式开放给顾客

如何理解模型成本

HeiChat 会给模型标注层级和代币倍率,方便你做相对比较。

通常规律是:

  • 倍率低,成本更省
  • 倍率高,通常推理和回答效果更强

最终还是要根据你店铺的真实流量和问题类型来选,而不是只看模型名。

自定义 OpenAI API Key

自定义 OpenAI API Key 仅适用于 Pro Max,作用是保障服务不中断:HeiChat 会先消耗套餐内代币,再消耗额外代币;只有两者都耗尽后,才会自动切换到你保存的 OpenAI Key。

请确保 Key 有效,且对应 OpenAI 账户余额充足。该 Key 产生的用量由 OpenAI 单独计费。回复风格、语言、长度、emoji 和自定义指令应在 高级设置 > AI 回复 中配置。

如何降低代币消耗

可以同时使用两种互不冲突的方式:

  • 成本优先时选择 Basic(1x)模型。
  • 把高频、重复的问题配置为 快捷按钮 > Q&A。此类回复直接使用你设定的标准答案,不会在该轮额外检索知识库。