各位大佬，想玩玩 70B 参数规模的大模型，有没有什么推荐的云服务？

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

这是一个创建于 370 天前的主题，其中的信息可能已经有所发展或是发生改变。

4 条回复 • 2024-01-15 10:39:23 +08:00

Tubbs

2024-01-14 02:16:11 +08:00 via iPhone

qwen-70b 吗估计可以在某些算力平台租几个小时的多卡机器体验一下

ShadowPower

2024-01-14 12:58:49 +08:00 via Android

runpod.io
国内+便宜的有 autodl.com ，但是下模型太慢了，模板环境也很老，比较折腾

Alias4ck

2024-01-14 16:52:07 +08:00

openroute/replicate/together/anyscale/deepinfa

上面这几个 sass 服务都提供了开源模型的玩法,都有一定的免费额度

akin520

2024-01-15 10:39:23 +08:00

virtaicloud 还行