跳过正文
  1. 知识笔记/

Fastgpt初体验1

·

最近刚刚入职了某小厂,作为ai实习生,也是开启了自己的牛马生涯。 公司的第一个任务就是做一个电商客服,我在网络上搜罗了一下可能比较成形的方案,最终决定选择使用fastgpt框架调用qwen api+千牛后台。

介绍
#

fastgpt是是一个ai agent搭建平台,提供了开箱即用的数据处理和模型调用能力,可以方便的本地化部署工作流。而且这个项目好像是中文项目,感觉ai agent领域很多都是中文(比如还有dify)。

工作流介绍
#

我的智能客服工作流是在他在线方案的模板下,简单改了一下,模板可以通过这个网站访问。

下面为流程图

系统配置
#

设置开场白,如:

1您好!欢迎光临云米净水旗舰店!❤️
2我是您的专属顾问。
3想要咨询一些什么问题呢

流程开始
#

用户输入问题string,会直接进入安抚程序。

用户意图解析
#

通过问题分类将用户的问题string输入到qwen flash,可以对问题进行大致分类,比如分成产品问题售后类,其他类(打招呼,情绪宣泄)。对于不同的问题走不一样的后续流程。

产品品类解析
#

同样还是通过调用qwen flash,来判断问题有关的产品是什么。方便调用对应的知识库来查询。

知识库查询
#

知识库使用的embedding模型也是阿里旗下的text-embedding-v4(因为阿里有免费额度 😄) 💯,知识库检索的重排模型使用的是gte-rerank-v2 。

查询融合
#

因为可能会走不同的知识库查询,为了方便下文中调用,通过这个查询融合模块就可以不用管走哪个数据库,住模型都使用相同的数据库变量。

主模型
#

根据用户问题和知识库查询结果,输出客服回答。

遇到的问题
#

  • 一开始我虽然知道对于客服这种对回复效率有一定要求的agent,不能使用思考类模型,于是我一开始特地使用的就是带flash(🤗)的模型即qwen3.5-flash,但是还是不行还是会存在思考过程。导致输出非常地慢,会要一分多钟。后来选择了qwen-flash,就没有这个问题了,效果也还可以。

  • 我一开始就是白嫖的阿里的免费额度,阿里是每个模型都有独立的免费额度,我原本以为我会先把qwen-flash用完,但是我没想到的,最先用完的是embedding模型(好像据说每次知识库搭建和调用都会使用embedding模型),后来为了方便测试含泪😢爆了10块大洋,后续部署的话希望公司买点api吧。


过了一段时间,我对原本的智能客服进行了迭代升级,因为我们有对问题要求有了更精细的划分,比如:售前,售后;净水类,厨卫类,于是进行了迭代,但是再次不做过多赘述,因为后面我的任务被分配为针对云米净水旗舰店去做这样的ai客服,下面让我继续聊我的工作进展

Q:问题汇总
#

failed to upload error
#

据ai解释好像是因为脚本默认推荐的ip是192.18.0.1,这是一个docker内部虚拟的网桥地址,浏览器和minio没办法访问到,所以在开始设置时可以直接设置自己在局域网的ip,这样的话不太会出现上传不了的现象。 但是很明显,局域网的ip很有可能会变化,因为dhcp协议会自动分配ip地址,如果你可以访问到路由器管理员页面,可以在路由器里面设置静态ip,将ip和设备mac捆绑起来。 但是如果你没办法访问后台的话,可以每次开始工作前,去docker-compose.yml中重新设置一下, 通过以下命令得到ip地址

1ip addr show

设置成局域网ip。

1STORAGE_EXTERNAL_ENDPOINT: http://192.168.2.190:9000 # 一个服务器和客户端均可访问到存储桶的地址,可以是固定的宿主机 IP 或者域名,注意不要填写成 127.0.0.1 或者 localhost 等本地回环地址(因为容器里无法使用)

之后每次出现重新开始工作如果局域网ip🖇️变了,就执行一下上面的更改,再重新通过当前的ip:3000来访问这个前端网页🕸️。