因为我们主要做私域电商,主要是微信和有赞平台,最近有想法用 ai 客服代替 80% 的客服工作,在研究 chatGpt 的 fine-tuning 模型训练,我们有过去 5 年的客服聊天记录数据,想自己训练一个模型出来。
参考的文档是这个 https://platform.openai.com/docs/guides/fine-tuning
中文圈这块的资料比较少,自己花了 50 多刀出来的效果并不理想 [捂脸]
拿训练出来的模型去测试,完全是答非所问。 几乎找不到相关中文资料。
正准备试 gpt-index ,请问大家有比较成熟的解决方案吗?谢谢!
1
hellojay 2023-04-07 07:53:40 +08:00 via iPhone 1
等业界成熟的方案吧。还没有听说通过 fine tune 或者 index 等办法做出来真正可用的方案
|
2
maltoze 2023-04-07 09:04:36 +08:00 1
gpt-index(llama_index)不就是做这个的么
|
3
shenhuilin0 2023-04-07 09:25:53 +08:00 via Android 1
|
5
avenger OP @shenhuilin0 谢谢
|
6
hellojay 2023-04-07 11:11:33 +08:00
我尝试过 OP 类似的东西,gpt-index 这些方案都试了,全都不太满意,回答经常是驴唇不对马嘴。
客服系统对回答的要求其实比较高的,底线是不能胡说八道,但是用 gpt 你完全无法控制 |
7
nicolaz 2023-04-07 11:39:01 +08:00 1
可以参考下这个方案
"把自己的文档拆分成一段一段的信息,然后喂给 ChatGPT 让它把这些信息转换成一个个的事实问答对,并以 JSON 形式返回回来。" "之后将这些 prompts 数据发送给 OpenAI 的接口基于 davinci 的基础模型训练一个专属模型" 如何用 ChatGPT 构建你的专属知识问答机器人 https://blog.frankzhao.cn/build_gpt_bot_for_doc/ |
8
avenger OP 研究了一天,目前比 fine-tune 较靠谱的方案是用 Embeddings:
``` 1. 使用 embeddings API 把内容转变成向量( vectors ) 2. 用户输入一段话( query ),根据 vectors 找到几条合适的内容( contents ),并拼装成 prompt 3. 把 prompt 喂给 gtp-3.5 或者 fine-tuning 模型( model ) 4. done ``` #3 就是这个思路,官方相关教程链接: https://github.com/openai/openai-cookbook/blob/main/examples/Question_answering_using_embeddings.ipynb |
9
hoky 2023-04-13 19:29:16 +08:00
|
11
hoky 2023-04-17 22:21:17 +08:00 1
|
12
kiah 2023-05-10 17:36:34 +08:00
老哥有进展了吗 公司也有类似需求
|
13
avenger OP @kiah 用我们过去 5 年的历史数据,训练了一个 @男人袜 的客服妹子,欢迎大家来调戏,体验地址 https://udify.app/chat/RkCYZlpzZyhAsumL
|
14
avenger OP 用的 Dify 这个开源项目
|
17
fengtalk 2023-05-26 22:34:48 +08:00
陈老板的需求,关注一波。
|
19
13482034233 2023-05-31 15:33:15 +08:00
我们公司也是一家电商平台, 也想做 AI 客服机器人, Dify 用下来合适吗
|
20
avenger OP |
21
Vincent777 2023-08-09 22:16:50 +08:00
@avenger 大佬,看到您训练出来的客服我觉得非常牛逼,我也想训练一个。但是我技术比较差,不知道您可不可以出一个更详细一点的教程?以及想问一下训练的花费是多少,训练好之后还需要花钱吗?
|
22
avenger OP @Vincent777 没花钱,用的 dify.ai 的开源方案,你可以去试试,主要要导入的历史数据集,要越准确效果越好。
|
23
Vincent777 2023-08-21 10:41:00 +08:00
@avenger 请问这个只能网页端吗,有办法接入到淘宝、京东、抖音的店吗
|
24
avenger OP @Vincent777 有提供 api ,接入其它平台可能需要自己开发,我只测试接入了微信客服。
|
25
DamonYJ 347 天前
你好,我也在尝试用 dify 来搭建 AI 客服,有一个问题想请教一下,我在上下文只加了一个 Q&A ,提示词也说让它在上下文中找答案,为什么还是会自己编答案,有什么解决方案吗
|