V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
afeiche
V2EX  ›  程序员

请教一下大家,大语言模型在内部办公有什么落地场景?

  •  
  •   afeiche · 253 天前 · 4671 次点击
    这是一个创建于 253 天前的主题,其中的信息可能已经有所发展或是发生改变。

    最近又换了个组,搞大语言模型在内部办公的落地,前期其他人想了两个,一个是通过 RAG 把内部的文档喂给大模型,用于智能问答,另一个是代码助手,类似 copilot ,不知道是否又其他的思路,探讨探讨。

    第 1 条附言  ·  253 天前
    是否有 agent 的落地场景?
    第 2 条附言  ·  120 天前
    我们除了文档问答,最近在做会议纪要核查,不过效果一言难尽,也深刻体会到了啥叫 prompt 工程师
    51 条回复    2024-07-29 09:57:12 +08:00
    afstyle
        1
    afstyle  
       253 天前   ❤️ 1
    我司用来做翻译,机翻效果比用其他第三方接口稍微好一点
    assilzm
        2
    assilzm  
       253 天前
    智能问答是最容易实现效果又最容易体现的。
    其他多就要根据自己的业务来了,搞点智能分析什么的
    Braisdom
        3
    Braisdom  
       253 天前   ❤️ 3
    我的 Agile Query ( https://www.agiquery.com) 里用来做数据分析,哈哈
    weeei
        4
    weeei  
       253 天前
    智能生成 SQL 查询?作用和代码助手一样。
    boringwheat
        5
    boringwheat  
       253 天前
    最近在搞同样的事情,通过 RAG 做内部知识问答
    Braisdom
        6
    Braisdom  
       253 天前
    @weeei 和助手不一样的,他生成的 SQL 还需要人修改,而 Agile Query 是直接出数据的,不需要人肉参与。
    noahlias
        7
    noahlias  
       253 天前
    比如一个 idea 从想到到落地 可以让 ai 智能列出要做的 todo 事项
    supuwoerc
        8
    supuwoerc  
       253 天前   ❤️ 1
    集成到 gitlab 的 cicd 场景,做代码润色和优化
    DigitalG
        9
    DigitalG  
       253 天前
    问个问题,在文档和代码的话题上,RAG 或者 Copilot 如果出错(模型幻觉,不易被发现的那种)导致程序/业务出现问题,是怎么定义责任的?会影响用户使用的积极性吗
    hydyy
        10
    hydyy  
       253 天前
    @Braisdom #3 怎么用呀?
    chiu
        11
    chiu  
       253 天前
    微软在自家产品 Outlook, Edge, Teams, Word, Excel, Powerpoint 都集成了 Copilot, 直接用.
    cat
        12
    cat  
       253 天前
    @Braisdom 这个是收费的吗,怎么部署啊
    Braisdom
        13
    Braisdom  
       253 天前
    @hydyy 下周会发一个 Docker 版本和试用的 License ,如果想详细了解可以加我微信:braisdom
    Braisdom
        14
    Braisdom  
       253 天前
    @cat 目前是收费的,等再晚点会发个社区版本,会有一些限制。
    afeiche
        15
    afeiche  
    OP
       253 天前
    @chiu 国内肯定不能直接用啊,我们连 office 都不能用,只能用 wps
    Frankcox
        16
    Frankcox  
       253 天前
    @supuwoerc 想请教下,ci 代码润色是处理 commit diff 的内容吗?没有上下文的话,效果好吗?
    fredweili
        17
    fredweili  
       253 天前
    文档提问是在做的,路径比较简单
    afeiche
        18
    afeiche  
    OP
       253 天前
    @afstyle 感觉也是条路
    luckypants123
        19
    luckypants123  
       253 天前 via iPhone
    往黑暗一点的想,会被拿来当监工,员工聊天记录喂进去,问是在工作还是摸鱼。
    paiguli
        20
    paiguli  
       253 天前
    @luckypants123 喂出一个桌面 AI 宠物是吧,平时就可以直接问他问题,然后他就监视你电脑运行了啥,然后总结个表给老板。自动生成日报,周报,月报。
    aleimu
        21
    aleimu  
       253 天前
    去年就做了一些实践部署,做了一个内部 oncall 知识问答系统,就效果来看还是可以回答一些东西的,但领导并不认可,就算真的能节省人力,那意味着又要裁员了,最后也会作用到自己身上
    archxm
        22
    archxm  
       253 天前
    雷声大雨点小,没卵用
    736531683
        23
    736531683  
       253 天前
    喂内部教程,资料,你司难道没有运维和支持吗?都可以干掉了(辅助他们)
    chaos93
        24
    chaos93  
       253 天前
    http://nb.chaos.mba/
    JuSH
        25
    JuSH  
       253 天前
    去年公司研发部,想引进 360 大模型通过把设计相关技术标准喂进去形成一个可通过自然语言对话的设计助手,但是 360 公司自己先怂了,觉得无法做出我们想要的效果出来。
    mandex
        26
    mandex  
       253 天前   ❤️ 3
    有种没需求就强行创造需求的感觉😂。
    chiu
        27
    chiu  
       253 天前
    @afeiche #15
    我在国内, 公司也是买的全套微软企业版, 可以直接使用.
    Kumo31
        28
    Kumo31  
       253 天前
    飞书的飞飞落地得挺好,每天自动基于聊天记录总结前一天工作内容和关键点、任务,群里一段时间没看的几百条讨论也能一键总结,还能以飞书文档作为知识库来问答。这种集成还是挺提高效率的,不过这个飞飞本身能力太弱,感觉里 GPT3.5 都还有差距,如果有 GPT4 的水平估计就很不错了
    Kumo31
        29
    Kumo31  
       253 天前
    @Kumo31 还有和飞书妙计结合的会议纪要自动记录&总结,都挺实用
    xiaofan305
        30
    xiaofan305  
       253 天前 via Android
    用来写文案。另一个 ai 相关应用就是生成配图了,比找图库方便些
    wildnode
        31
    wildnode  
       253 天前
    @chaos93 是 GPT4 ,还是免费的??
    chaos93
        32
    chaos93  
       253 天前
    @wildnode 你试试不就知道了
    chf007
        33
    chf007  
       253 天前
    @DigitalG 肯定要人工 review 一下吧
    Eleutherios
        34
    Eleutherios  
       253 天前
    稿件生成、审核
    zlblade
        35
    zlblade  
       253 天前
    @afstyle 您好,可以请教下是用哪个模型做的吗?谢谢。
    wildnode
        36
    wildnode  
       253 天前
    @chaos93 我的意思是我试了一下发现是 4 而且貌似还能免费用,太强了
    rm0gang0rf
        37
    rm0gang0rf  
       253 天前
    条款, 合同, 挺好
    chaos93
        38
    chaos93  
       253 天前
    @wildnode Oh oh oh 好的
    darkengine
        39
    darkengine  
       253 天前
    用邮件、钉钉、企业微信的聊天去喂,然后出问题的时候可以问 AI 应该怎么巧妙的甩锅 = =#
    ysicing
        40
    ysicing  
       252 天前
    @chaos93 抱歉!该站点已经被管理员停止运行,请联系管理员了解详情!
    chaos93
        41
    chaos93  
       252 天前
    @ysicing 管我啥事
    daiaoqikk
        42
    daiaoqikk  
       185 天前
    @boringwheat 好厚米,你们最近有什么成果吗?研究效果如何,可以探讨一下
    boringwheat
        43
    boringwheat  
       184 天前
    @daiaoqikk 我们最终选择用阿里云的百炼平台来搭建了,通义千问+向量知识库;基本只要封装一个 web 端供调用就行了,做好内部文档的收集和上传
    daiaoqikk
        44
    daiaoqikk  
       176 天前
    @boringwheat 是个不错的实现方式,现在使用效果怎么样呢?比如在准确性方面,回复速度方面。有什么你们觉得效果不太好的点吗?
    kanchi240
        45
    kanchi240  
       127 天前
    @boringwheat 请问阿里云这个使用效果怎么样
    boringwheat
        46
    boringwheat  
       124 天前
    @kanchi240 满足领导需求没问题,KPI 项目,挺方便的。确实也能解决相当一部分的搜索需求。
    kanchi240
        47
    kanchi240  
       124 天前
    @boringwheat 收到,也让我研究这块,我看阿里云部署大模型那块收费还挺高了,好像部署上去,就算不使用也收费呐,公司也没预算,呵呵哒
    pigf
        48
    pigf  
       123 天前
    @boringwheat #43 没有数据安全问题吗
    afeiche
        49
    afeiche  
    OP
       122 天前
    我们除了文档问答,最近在做会议纪要核查,不过效果一言难尽,也深刻体会到了啥叫 prompt 工程师
    boringwheat
        50
    boringwheat  
       117 天前
    @kanchi240 这就比较坑了,没预算自己搞我暂时没有好的思路
    boringwheat
        51
    boringwheat  
       117 天前
    @pigf 让阿里云提供证明文件,我没法杜绝一切隐患,工作只要合理合规就行;
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2751 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 09:44 · PVG 17:44 · LAX 01:44 · JFK 04:44
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.