V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
xiaokangz
V2EX  ›  职场话题

业务型后端程序员如何入门大语言模型?

  •  
  •   xiaokangz · 78 天前 · 1163 次点击
    这是一个创建于 78 天前的主题,其中的信息可能已经有所发展或是发生改变。
    我是一名.NET 后端程序员,目前主要从事企业管理系统开发。
    不过最近接到一个需求,要做一个 ChatBot ,主要目的是回答用户针对系统操作方面的问题,答案主要来自于用户手册。

    我就想了解下,作为后端程序员(没有任何 AI 经验)要怎么入门大语言模型?比如搭建一个 ChatBot 大概需要哪些步骤之类的,主要希望对大语言模型有一个整体的理解。

    另外,看到了这篇文章 https://botpress.com/blog/open-source-chatbots ,给我的感觉这些开源项目都只是个前端,需要配合后端的 NLU 和 LLM 使用。不知道这样理解对不对?
    2 条回复
    dododada
        1
    dododada  
       78 天前
    有个基于 streamlit 做的 langchain-chatchat ,搭起来跑一下看看,其实就是调接口,调整 prompt, 现在连调参都不要了,但是本地跑有些吃资源
    xiaokangz
        2
    xiaokangz  
    OP
       78 天前 via iPhone
    @dododada 感谢回复,我先研究研究
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2724 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 26ms · UTC 12:38 · PVG 20:38 · LAX 04:38 · JFK 07:38
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.