V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  kerb15  ›  全部回复第 3 页 / 共 25 页
回复总数  485
1  2  3  4  5  6  7  8  9  10 ... 25  
257 天前
回复了 neurocomputing 创建的主题 OpenAI 大家要不要晒一下用 LLM api 做的应用
问就是没有场景
257 天前
回复了 tianzx 创建的主题 云计算 国内公有云还有救吗?
@napsterwu 直接要么
258 天前
回复了 kerb15 创建的主题 问与答 有人用 Total Commander 吗?
@MajestySolor #15 不行啊,我又下载试了一下,全部生成完毕,然后进入别的文件夹再回去,又重新一张一张加载了,而且巨慢
259 天前
回复了 Sirius8 创建的主题 耳机 2024 TWS 耳机选择
刚买了 vivo 3pro ,降级消费了
259 天前
回复了 kerb15 创建的主题 问与答 有人用 Total Commander 吗?
@fgt1t5y 我记得这个甚至没有缩略图
259 天前
回复了 kerb15 创建的主题 问与答 有人用 Total Commander 吗?
@MajestySolor 试过,缩略图每次都要重新加载,都很慢
259 天前
回复了 kerb15 创建的主题 问与答 有人用 Total Commander 吗?
@YGHMXFAL 跟双列其中一个移到右边倒是一个方法
259 天前
回复了 kerb15 创建的主题 问与答 有人用 Total Commander 吗?
@cmdOptionKana 我是希望找一个文件管理器,然后直接替换掉系统那个了,方便我对各种类型整理归档,而不是针对媒体使用单独的软件,太不通用了
259 天前
回复了 kerb15 创建的主题 问与答 有人用 Total Commander 吗?
@M2K4 试了一下没用
259 天前
回复了 kerb15 创建的主题 问与答 有人用 Total Commander 吗?
@katwalk 不会呀,直接看缩略图就是让你方便整理,移动文件
263 天前
回复了 hepin1989 创建的主题 Java 大家用上了 ZGC 了吗?
小白想问下什么岗位的 java 工程师会需要关注垃圾回收
@sdjl #14 怎么可以拿模型的回复结果来作为参考,毫无价值
276 天前
回复了 kerb15 创建的主题 OpenAI GPT4 API 好像无法保证每次输出都一样?
@xmumiffy
@kaidong21
我试着给 Seed 传了一下 0 和 1 ,发现都没用,看参数注解也是说尽可能保障,实际上我测试的结果是变化的概率挺高的
277 天前
回复了 kerb15 创建的主题 OpenAI GPT4 API 好像无法保证每次输出都一样?
尽管将温度参数设置为 0 、top_p 参数设置为 0 ,也不能完全保证在相同的输入提示下生成的文本完全一致,主要原因是因为在 GPU 计算过程中存在固有的非确定性。

这是因为浮点数计算中的微小差异可能会导致最终选择的 token 有微小变化,特别是当前两个最有可能的 token 之间的差异很小时,会偶尔选择不同的 token ,从而产生不同的结果。

同时,为了提高模型端点的速度,通常使用 GPU 进行计算,而 GPU 计算是并行的(非确定性的)。

在现代的 GPU 神经网络计算中,这种非确定性是无法避免的。

而且,如果模型被部署在不同的区域以实现负载均衡,不同区域的硬件和环境也可能会对模型的计算产生微小的影响,进一步增加了非确定性。

作者:月明
链接: https://www.zhihu.com/question/595912240/answer/3160446512
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。
277 天前
回复了 winterbells 创建的主题 问与答 春秋航空严查背包大小吗
你都这么讲了,那不就是事在人为吗,有操作空间,看眼缘,随时做好加钱的准备
278 天前
回复了 abcfreedom 创建的主题 程序员 openai 中转站的账号资源都是从哪里搞的
@gaobh #4 这么多账号资源,再加上缓存,其实都不纯粹了,不是最原汁原味的调用
279 天前
回复了 kerb15 创建的主题 NAS Raid0 速度慢,是硬盘问题还是硬盘柜的问题
@geniussoft #27 我以为硬 raid 性能才是最好,看了下主板也是支持的
279 天前
回复了 kerb15 创建的主题 NAS Raid0 速度慢,是硬盘问题还是硬盘柜的问题
@geniussoft #25 如果是主板直接支持阵列或者插阵列卡,是不是就不存在这个问题了
279 天前
回复了 sakujo 创建的主题 iOS 微信输入法是不是在 ios 设备上不太灵
微信输入法的最大问题是词库太拉跨了
1  2  3  4  5  6  7  8  9  10 ... 25  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2605 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 25ms · UTC 10:34 · PVG 18:34 · LAX 02:34 · JFK 05:34
Developed with CodeLauncher
♥ Do have faith in what you're doing.