![]() |
1
cander0815 OP 请问有大佬知道吗?应该如何部署
|
2
hefish 2 天前
anyhingllm 非常傻,他 rag 只支持定长切片,实测基本不可用。网上搜的文档例子都很牛,碰到自己跑就完蛋。。
这个这个可能是模型的限制吧。 这个是 text-to-text 的模型吧。。。找个 text/image to text 的模型试试看。。。 |
![]() |
3
coefuqin 2 天前
anythingllm 原生的嵌入模型 all-MiniLM-L6-v2 不是多模态的,并且也没有提到 vision 模型的集成,ds 的 671b 是 moe 专家模型,里面有原生 vision 处理的能力。
|
![]() |
4
coefuqin 2 天前
或者你把嵌入模型 改成 granite3.2-vision ,然后看看情况。
|