tool3d 最近的时间轴更新 tool3d 最近的时间轴更新 |
tool3dV2EX 第 687632 号会员，加入于 2024-04-30 10:34:03 +08:00今日活跃度排名 28249 |
| 感觉一些人对 claude 3.7 sonnet 有误解，以为是编程领域最强的模型。 程序员 • tool3d • 22 天前 • 最后回复来自 mxT52CRuqR6o5 | 48 |
| google 的新模型，智能文字修图，效果实在是很炸裂。 程序员 • tool3d • 25 天前 • 最后回复来自 kuonkuon | 21 |
| 半个小时前， ollama 上线了目前单显卡里，最强的中小模型 gemma3
1 Local LLM • tool3d • 29 天前 • 最后回复来自 hanbing135
|
50 |
tool3d 最近回复了
4 天前 回复了 paranoiagu 创建的主题 › Local LLM › 本地 llama.cpp 和 ollama 跑 相同 模型，效果不一样 |
我也发现了，是 ollama 这几个版本有 bug ，换到最新版本试试(github 的 prerelease 版本)，官方说已经修正了，我测试也好一些。
4 天前 回复了 limatrix81 创建的主题 › Local LLM › 想自己上手跑跑 LLM 大模型，求推荐显卡和主机配置 |
"等 5060ti 发布之后买 4060ti (不晓得 50 系发布 40 系会不会降价)"
我个人感觉不太会降价，至少今年内是这样的，AI 实在太火了。
我个人感觉不太会降价，至少今年内是这样的，AI 实在太火了。
4 天前 回复了 limatrix81 创建的主题 › Local LLM › 想自己上手跑跑 LLM 大模型，求推荐显卡和主机配置 |
@coefuqin 别小看 I 卡，现在 llm 大模型那么火，仅仅跑大模型的话，intel 开源优化已经够好了。你可以去 B 站查一下具体性能，tokens 速度很快。（搜索双卡 intel 就可以）
N 卡优势在于 cuda 通用性，和游戏 DLSS 之类的。但楼主说了，主要就是跑 LLM 模型。
N 卡优势在于 cuda 通用性，和游戏 DLSS 之类的。但楼主说了，主要就是跑 LLM 模型。
6 天前 回复了 limatrix81 创建的主题 › Local LLM › 想自己上手跑跑 LLM 大模型，求推荐显卡和主机配置 |
18 天前 回复了 monosolo1on1 创建的主题 › 程序员 › 感觉 Cursor 解决复杂一点的编程问题还很弱 |
算法题不好写，我让 AI 写一个人机对战的游戏 AI ，有很大概率原地踏步，只有极小概率才能把赢的比例提升上去。
但是这样太费 token 了。
但是这样太费 token 了。
27 天前 回复了 tool3d 创建的主题 › 程序员 › google 的新模型，智能文字修图，效果实在是很炸裂。 |
说一下如何调用 API ，官网暂时没写。
先访问 https://generativelanguage.googleapis.com/v1beta/models/gemini-2.0-flash-exp:streamGenerateContent?key=%s
把上传的猫咪图片压缩成 base64, 塞进 json 里的 inline_data 的 data 里。
然后请求的 json 添加这句："generationConfig":{"response_modalities":["Text","Image"]} 返回的结果，就能生成图文模式了。
注：暂时没有对应的 openai 兼容调用，直接调用 openrouter 这类 API 中转，应该是没办法生成图片和修图的。必须直接调官方的 google api 。
先访问 https://generativelanguage.googleapis.com/v1beta/models/gemini-2.0-flash-exp:streamGenerateContent?key=%s
把上传的猫咪图片压缩成 base64, 塞进 json 里的 inline_data 的 data 里。
然后请求的 json 添加这句："generationConfig":{"response_modalities":["Text","Image"]} 返回的结果，就能生成图文模式了。
注：暂时没有对应的 openai 兼容调用，直接调用 openrouter 这类 API 中转，应该是没办法生成图片和修图的。必须直接调官方的 google api 。
28 天前 回复了 javazero 创建的主题 › 云计算 › 有 50+服务器要管理，有没有什么软件可以监控服务器 |
最简单就是让 gpt 写一个脚本，50 个服务器依次网络轮询。
不过我个人还是偏向于安装监控软件，一是可以记录历史硬件温度之类的信息，出问题可以复盘。二是有故障可以自动发邮件报警，不需要你去挨个查询。
不过我个人还是偏向于安装监控软件，一是可以记录历史硬件温度之类的信息，出问题可以复盘。二是有故障可以自动发邮件报警，不需要你去挨个查询。
28 天前 回复了 jdz 创建的主题 › 程序员 › 除了 claude, 各位还另外主要使用哪个大模型 |
代码问题目前第一梯队的只有 claude 3.7 一家，第二梯队随便问哪个都差不多，换着来。
deepseek 我用 openrouter 上的免费版本，我倒是想用官方的，就是官方 API 太不稳定了，首字出来巨慢，受不了。
deepseek 我用 openrouter 上的免费版本，我倒是想用官方的，就是官方 API 太不稳定了，首字出来巨慢，受不了。
29 天前 回复了 VictorSu999 创建的主题 › 计算机 › mac mini m4 vs 普通 windows 电脑主机求推荐 |
Select Language