V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
neptuno
V2EX  ›  OpenAI

如果我想对垂直领域文档进行智能回复,是不是只能使用 fine tuning

  •  
  •   neptuno · 307 天前 · 1000 次点击
    这是一个创建于 307 天前的主题,其中的信息可能已经有所发展或是发生改变。
    1 、使用 api 进行智能回复(类似于对说明书进行训练,回复的都是说明书的内容) 2 、想用第三方便宜的 key 3 、第三方便宜的 key 是不是不支持 fine tuning 4 、有没有其他方法
    5 条回复    2024-02-23 17:32:25 +08:00
    mercurylanded
        1
    mercurylanded  
       307 天前
    一般来说 RAG 效果更好
    neptuno
        2
    neptuno  
    OP
       307 天前
    @mercurylanded 感谢🙏,我就说 v2 能学到知识。检索增强生成 (RAG) 的定义
    检索增强生成 (RAG) 是一种使用来自私有或专有数据源的信息来辅助文本生成的技术。它将检索模型(设计用于搜索大型数据集或知识库)和生成模型(例如大型语言模型 (LLM),此类模型会使用检索到的信息生成可供阅读的文本回复)结合在一起。

    通过从更多数据源添加背景信息,以及通过训练来补充 LLM 的原始知识库,检索增强生成能够提高搜索体验的相关性。这能够改善大型语言模型的输出,但又无需重新训练模型。额外信息源的范围很广,从训练 LLM 时并未用到的互联网上的新信息,到专有商业背景信息,或者属于企业的机密内部文档,都会包含在内。

    RAG 对于诸如回答问题和内容生成等任务,具有极大价值,因为它能支持生成式 AI 系统使用外部信息源生成更准确且更符合语境的回答。它会实施搜索检索方法(通常是语义搜索或混合搜索)来回应用户的意图并提供更相关的结果。
    TimePPT
        3
    TimePPT  
       307 天前
    @neptuno 先看看这个吧,能解释你好多疑惑 https://www.promptingguide.ai/zh
    ns2250225
        4
    ns2250225  
       307 天前
    用 FastGPT 吧,简单快捷
    neptuno
        5
    neptuno  
    OP
       307 天前
    @TimePPT 好的谢谢!公司临时接的项目,给我练练手,确实我不懂这一块。
    @ns2250225
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5433 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 08:03 · PVG 16:03 · LAX 00:03 · JFK 03:03
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.