V2EX › maolon 的所有回复 › 第 3 页 / 共 6 页

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

1 2 3 4 5 6

❮

❯

345 天前

回复了 ugpu 创建的主题 › TypeScript › TypeScript 现在的应用场景

nextjs + t3 stack + vercel 全栈部署一把梭

348 天前

回复了 teli 创建的主题 › 分享创造 › 如何设计提示词，让 ai 不给非处方药建议？

你需要这种要求就不要选 kimi, kimi 跟随人类指令的能力很差。以及楼上说的对，你真要做这种就前置一个意图识别，识别完再调用回答

348 天前

回复了 teli 创建的主题 › 程序员 › 瞎扯大模型，文心一言和 kimi，应该押注哪一个？

kimi 跟随人类指令的能力相当差，优势只在超长上下文。文心没怎么用不评价。
国内外一起算的话 qwen 应该是国产最强模型。yi 就一魔改 llama ，没啥前景。
deepseek 还有待进一步观察他那个 MHL 是否在回答质量上优于 MHA

348 天前

回复了 Hamao 创建的主题 › 程序员 › 咨询一个意图识别(向量检索)方面的问题

这场景不是更适合 sqlretriever 么，你的问题转化 sql 然后查询数据库。vector db 更适合搞知识库(比如问答 qa)查询。
当然你硬要这么搞也行，调整存到数据库的 a 的字段，尽量把信息搞的精简比如类似 json 的那种格式 “商品名: acd, 价格: xxx, 生产公司: xxx,” 然后多余信息一点都不要给。
我之前做过一个查询工作的也是上面类似的思路

349 天前

回复了 KepaThings 创建的主题 › Apple › 怎么 vision pro 没啥讨论度了

本来就是苹果在公开卖开发机，怎么可能很火

350 天前

回复了 wencan 创建的主题 › 机器学习 › 有没有专门智能解析 PDF 的开源模型？

提取块的: qanything, ragflow 但是是把整篇文章分块，你要求的段落在里面，然后 llm 问答，可以在管理界面查看管理提取过的段落
普通低配能跑: 这两都不怎么行
最后开源模型: qwen 1.5 的 7 或者 14 应该能满足你需求

355 天前

回复了 idblife 创建的主题 › MacBook Pro › 想整台 macbook pro 跑 llama3 70b，请问用啥配置合适？ M3 max 128G？

接近是接近，推理和跟随用户指令上来说还是差点意思，中文能力更差点意思，另外用 groq 就可以了，个人用直接免费那一档不会超限制。

355 天前

回复了 dilidilid 创建的主题 › Apple › 为啥这么多人都觉得苹果会很快上马可用度很高的本地 LLM？

苹果的模型倾向就跟现在主流模型不同，
第一特别小 0.27b 0.35b 1b 和 3b 可以跑哪怕 4g 的内存里，其次他有自己的推理框架和压缩算法，这点上比安卓这边是个优势。
第二他估计是要搞 large action model ，也就是说只要能识别用户意图并操作用户手机执行操作就行了，不是我们一般意义上 all purpose 的 llm 大模型。传统功能的大模型应该他会放云端，也就是跟百度和谷歌合作那个

356 天前

回复了 devzhaoyou 创建的主题 › React › React 中添加、删除、变更子组件疑问

对你这个要求直接拿 ref 搞是正确做法，实际上 react 对上 canvas 场景基本都是各种 anti-pattern 的 ref 乱飞搞定的

357 天前

回复了 serafin 创建的主题 › Apple › 买 M4 iPad 1TB 以下建议等 6 月 WWDC 后再决定

你要是关注过的话就会发现苹果的模型是超小型模型，之前开源的模型是 0.27b 0.45b 1b 和 3b ，不量化都能在 8g 里跑, 更何况还有量化+llm in a flash 技术，把 cache 存到储存里。
苹果的目标显然是连 4g 设备都能一并支持的模型。

359 天前

回复了 leviyuan 创建的主题 › 推广 › AI 独立开发，如何避免错误的产品方向

@maolon 才发现是给课程引流的，先不说是不是发错板块，好歹你付费课程就别 ai 机翻了，机翻了好歹手动修一下...

359 天前

回复了 leviyuan 创建的主题 › 推广 › AI 独立开发，如何避免错误的产品方向

翻译的部分真的很粗糙，很多地方看不懂，还不如直接放原文链接出来算了，你文章直接 tldr