vagranth 最近的时间轴更新

vagranth

V2EX 第 262115 号会员，加入于 2017-10-24 21:47:32 +08:00

奇思妙想 • vagranth • 17 天前 • 最后回复来自 vagranth

奇思妙想 • vagranth • 51 天前 • 最后回复来自 vagranth

求职 • vagranth • 253 天前 • 最后回复来自 vagranth

vagranth 最近回复了

17 天前

@xiaoheicat 自建服务，并发完全受限于自己的服务器的能力。

超长文本肯定是要拆分的，段落拆分要根据 llm 的上下文窗口来动态判断。算法倒是现成的，做在 sdk 或服务里面都可以。

23 天前

@xhawk 那么这种方案也不适合，速度不可能满足你的需求。但针对行业的专业词汇说不定可以有特殊处理。

24 天前

@SakuraYuki 没赚到钱的话，是不是侵权不重要。
赚到钱的话，正主没提起诉讼，也不重要。
赚到钱且正主提起诉讼，那也有钱赔。

所以，是不是侵权真的不重要。

27 天前

@june4 现在 gpu 普及率这么低？

27 天前

我连 e/acc 是啥都不知道...

27 天前

@shewhen 说实话，准确性倒是超乎想象。我用的 gemma3 12b

27 天前

@M9l7chlLGv 早知道有这个我就懒得自己写了

27 天前

你们说的对，看来确实没什么需求

27 天前

@mumbler 用户本地部署

27 天前

@mumbler 呃，可能你对这些不了解？
我自建的 ollama ，大概也就几条命令就能跑起来。
然后就可以用 openai 接口去连，甚至 tool 也能跑。
文档在 openai 或者 ollama 官网都有，无需鉴权。