Orin NX 16G 可以运行 llama3 大模型 - V2EX

首页注册登录

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

› 下载 GeForce Experience

› NVIDIA SHIELD

› GPU Ray Tracing

› NVIDIA Unix Driver

这是一个创建于 156 天前的主题，其中的信息可能已经有所发展或是发生改变。

参考 BV1rD421g7NT ，应该是 4bit 量化

目前尚无回复

关于 · 帮助文档 · 博客 · API · FAQ · 实用小工具 · 5840 人在线 最高记录 6679 ·

Select Language

创意工作者们的社区

World is powered by solitude

VERSION: 3.9.8.5 · 23ms · UTC 02:50 · PVG 10:50 · LAX 18:50 · JFK 21:50
Developed with CodeLauncher
♥ Do have faith in what you're doing.