V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
cander0815
V2EX  ›  Local LLM

大佬们,本地使用 ollama 部署的 DeepSeek-R1-32B 在 anythingllm 中发送图片,它说它没收到,应该怎么做?才能让他帮我识别图片?实现官网那种效果

  •  
  •   cander0815 · 6 天前 · 335 次点击
    4 条回复    2025-03-11 17:25:23 +08:00
    cander0815
        1
    cander0815  
    OP
       2 天前
    请问有大佬知道吗?应该如何部署
    hefish
        2
    hefish  
       2 天前
    anyhingllm 非常傻,他 rag 只支持定长切片,实测基本不可用。网上搜的文档例子都很牛,碰到自己跑就完蛋。。

    这个这个可能是模型的限制吧。 这个是 text-to-text 的模型吧。。。找个 text/image to text 的模型试试看。。。
    coefuqin
        3
    coefuqin  
       2 天前
    anythingllm 原生的嵌入模型 all-MiniLM-L6-v2 不是多模态的,并且也没有提到 vision 模型的集成,ds 的 671b 是 moe 专家模型,里面有原生 vision 处理的能力。
    coefuqin
        4
    coefuqin  
       2 天前
    或者你把嵌入模型 改成 granite3.2-vision ,然后看看情况。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4922 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 21ms · UTC 09:41 · PVG 17:41 · LAX 02:41 · JFK 05:41
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.