V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  beginor  ›  全部回复第 4 页 / 共 116 页
回复总数  2317
1  2  3  4  5  6  7  8  9  10 ... 116  
如果只是想通过 HTTP API 调用跑一些简单的文本生成的话,可以考虑 Mac ,毕竟统一内存有优势,64G 的 Mac 可以分 56G 出来跑大模型。

如果是跑 Python+大模型编程个人使用的话,4090 游戏卡也能玩。

如果是搞企业级大模型,上服务器+专业卡,PC 机做客户端,什么系统都行。
ollama/llama.cpp 之类的虽然快+省,但是对多模态模型支持比较差,或者说是很差。

企业级应用没有多模态支持,说不过去,这个需求满足不了,估计很难让金主满意。

但是用 Python 部署的话,需要的资源得增加几倍才行。
今年发布的新手机都果味十足,性能超强, 不好选了 😂 不如等红魔新机发布
用 vmware fusion ,最大可以设置 128GB 内存,前提是得有那么大的内存
69 天前
回复了 vyuai 创建的主题 Java 大佬们, 三层架构先写哪个层比较好呢
用代码生成器,一次全搞定,别纠结
70 天前
回复了 HeMinWon 创建的主题 macOS 分享一个自用内存清理脚本 CleanMyMac
不错,已加⭐
容器做好了,把配置和数据都放在容器外面挂载,灾备恢复的时候最爽了,直接 docker compose up 就启动。

要是独立部署的数据库你就慢慢装,慢慢配
76 天前
回复了 cuieney 创建的主题 程序员 现在前端开发者还能做什么?
@cabing 这是铁人三项的必备技能啊😂
76 天前
回复了 tsja 创建的主题 程序员 有几台闲置 4080 PC 可以干什么
4080 跑模型只能是玩具级别,不能并联,游戏机始终是游戏机
77 天前
回复了 cuieney 创建的主题 程序员 现在前端开发者还能做什么?
我觉得前端应该注重一下用户体验,不只是罗列控件,这个更加可行。

webgl/webcpu 属于计算机图形学,和前端不是一个赛道,shader 就可以把很多人拦在门外
77 天前
回复了 lixiaobai913 创建的主题 iPhone 15pro 有哪些好用的钢化膜推荐一下
无尘仓+AR 增透膜,PDD 十元内搞定,也可以一次多买几张更实惠
idea 有 continue ,还支持本地 ai 模型
原生 Chromium 下载 https://download-chromium.appspot.com/ , 确实不支持视频解码, 但是作开发用还是挺不错的
84 天前
回复了 ota 创建的主题 MacBook Pro m1max64g8t14'⇋m3pro18g512G14'
64G 就是爽,用过之后再也不想回到 32G 以下的,由俭入奢易,由奢入俭难。
参考 node_modules 目录
楼主用的应该是 mysql , 不支持数组类型,无法使用数组参数, 应该只能按照 16 楼的方法拼接 sql 参数了
不知道楼主使用的是什么数据库,如果是 pg 的话可以直接用数组参数
85 天前
回复了 deadlineChen 创建的主题 问与答 父母不在了,是不是就四海为家了?
国庆在老家跟父亲待了几天,昨天回来时高铁比较晚,父亲发信息跟我说等你下火车再睡,当时在火车上眼泪就差点儿流出来。

今天看到这个,又想哭了
85 天前
回复了 freewarcraft 创建的主题 macOS macOS 原生功能又要把 Moom 干掉了?
开源的 rectangle 也受到了亿点点伤害
1  2  3  4  5  6  7  8  9  10 ... 116  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4500 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 38ms · UTC 04:06 · PVG 12:06 · LAX 20:06 · JFK 23:06
Developed with CodeLauncher
♥ Do have faith in what you're doing.