zachariahss 最近的时间轴更新

zachariahss

V2EX 第 661486 号会员，加入于 2023-11-09 18:46:11 +08:00

今日活跃度排名 8379

zachariahss 提问技术话题好玩工作信息交易信息城市相关

请教大模型工程师一个问题,关于大模型伦理

OpenAI • zachariahss • 46 天前 • 最后回复来自 clementewy

关于个人境外收入报税问题

职场话题 • zachariahss • 55 天前 • 最后回复来自 fengsien99

121

» zachariahss 创建的更多主题

zachariahss 最近回复了

10 小时 41 分钟前

回复了 jacketma 创建的主题 › OpenAI › 反复问 AI 同一个问题， LLM 大模型会给出一样的答案吗？

推理框架类似 tgi 或者 vllm 本身内部自带了 kv cache 引擎,也不好关闭,这东西会根据每次的向量计算一些缓存,逐步累计,累积到一定程度就会发生大量重复了.但是这个 cache 本身和 hyper parameters 有关,貌似很复杂的逻辑,但是缓存一般会约定时间,默认多少小时,具体可以找推理框架的文档.
举例就是 deepseek 的官网就有命中缓存和不命中的价格差异
google 的 geminiaip 我也遇到过,明明按照官网计费标准要几百美金,但是最后只入账了 100 左右,问了客服说是和缓存命中有关

4 天前

回复了 ujfj1986 创建的主题 › 分享创造 › [自荐] 零压力学语言 AI 插件，看中文网页也能拓展词汇量 - Ries.AI

提三个点,
第一个点,要可以控制某些网页不进行加载,因为有些业务网站篡改后可能出现意料之外的问题,
第二个点,要有一个开关可以切换变更前变更后的页面,否则不方便
第三个点,需要可以动态调整翻译出现的频率,以及目前的翻译全都是单词,后期应该有整句翻译,这个阈值应该可调,

4 天前

回复了 ujfj1986 创建的主题 › 分享创造 › [自荐] 零压力学语言 AI 插件，看中文网页也能拓展词汇量 - Ries.AI

正在使用,看看效果

15 天前

回复了 xiaofami 创建的主题 › 问与答 › giffgaff 号码被永封

Emmm,我为了稳点,人家都是 180 天消费一次,我是 90 天消费一次....貌似现在还存活

15 天前

回复了 Franknow 创建的主题 › 前端开发 › 找一个老师教全栈开发商城

@listen2wind https://github.com/lilishop/lilishop

15 天前

回复了 Franknow 创建的主题 › 前端开发 › 找一个老师教全栈开发商城

@Franknow https://github.com/lilishop/lilishop

17 天前

回复了 Franknow 创建的主题 › 前端开发 › 找一个老师教全栈开发商城

你要信我的话....我就直接给你推荐一个开源的,虽然不是什么千万并发,万亿存储,没有啥数据湖啥的,但是万级的并发,支付,验证,es,热点数据啥的都还是有的,小场景商城随便应付....你拿过去自己针对核心业务随便写写业务逻辑就懂了.多端的.手机端也有(ps: 我们拿着开发过)

19 天前

回复了 miscnote 创建的主题 › 酷工作 › 年后有 Java 同学找工作吗，我们在招聘

项目外包型公司,看项目发工资和留人的,一人身兼多职,前端后端+运维
电网有项目就发工资,没项目就裁员
不过电网在国内这种项目外包形式里面算是比较稳定的.但是也是没啥发展机遇,应该是基本不用想涨工资啥的,也别想有啥奖金和福利.我猜的应该没错吧

21 天前

回复了 Jiajin 创建的主题 › 问与答 › 六岁外甥送什么玩具合适

6 岁?马上小学?送一套大而全的文具套装吧.庆祝即将开始的小学生活

21 天前

回复了 duanxianze 创建的主题 › 生活 › 马上 31 号了，一个人跨年去哪能显得不那么孤独呢？

加班呗,想一想,
一年终末之际,你盯着一行出现 bug 的代码,上下求思而不得解.眼睁睁看着时间从 11:55 分
走到了 56 分,
57 分,
58 分,
59 分,
最终默默地跨过了 00 分的指针,
你只觉得浑身酸爽,万籁俱寂.
想着人这一辈子也就这样了吧.然后点上一根烟,倒上一杯酒
然后发现 bug 还是没解决
最后安详的倒在床上,迎接第二天的没有工资的加班,
生活美满,幸福

» zachariahss 创建的更多回复