V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
nocmt
V2EX  ›  分享创造

给 LM-Studio Server API 做了个代理,增加联网搜索能力

  •  
  •   nocmt · 11 天前 · 828 次点击

    效果(图片不够清楚,但功能是实实在在的):

    ade999d309da5b4bf57c73873ab79378.gif

    背景:最近在用 Cherry Studio 客户端,但没联网搜索功能,于是用 Cursor 写个脚本支持代理( AI 生成的也需要自己改改代码和调试),Python 写的,支持本地运行或者 Docker 一键部署。

    目前感觉效果还可以,开源给大家用用,期望多多 Star 。

    联网搜索逻辑:

    Chat 客户端发送内容中携带 #search 、/search 、/ss 或 #ss 强制开启联网搜索,否则由模型自行判断。

    目前支持搜索引擎:

    • Google
    • SearxNG

    本地模型服务:

    • LM Studio

    或者其他兼容 OpenAI API 的服务,就代理了几个 API 。

    开源地址:https://github.com/nocmt/LLMSearchPlus

    2 条回复    2025-02-11 16:58:19 +08:00
    xialaoban
        1
    xialaoban  
       11 天前
    docker 需要可访问外网的能力
    nocmt
        2
    nocmt  
    OP
       11 天前
    @xialaoban 桥接模式就行了
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1106 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 23:52 · PVG 07:52 · LAX 15:52 · JFK 18:52
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.