V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
chackchackGO
V2EX  ›  问与答

显卡连接大屏幕占用了不小的显存, 有办法让他用内存或者核显或其他解决方案吗?

  •  
  •   chackchackGO · 2023-04-05 19:27:34 +08:00 · 1139 次点击
    这是一个创建于 597 天前的主题,其中的信息可能已经有所发展或是发生改变。
    笔记本, 独显直连状态, 连接了一个 3440*1440 的屏幕.
    6G 的显存占了 2.1GB, 本来就不富裕的显存更是捉襟见肘(要跑 stable diffusion 和 svc 之类的).

    就算是用混合模式, 同时开启核显和独显, 也有 1.5GB 左右的独显显存占用.
    4 条回复    2023-04-05 21:08:35 +08:00
    israinbow
        1
    israinbow  
       2023-04-05 20:04:40 +08:00   ❤️ 1
    换操作系统, 1.5 个 G 是 windows 预留的占位显存空间

    或者了解一下内存原理, 这样就可以解决占用烦恼了.
    MossFox
        2
    MossFox  
       2023-04-05 20:17:03 +08:00   ❤️ 1
    如果整个 Windows 默认只用核显,按理说独显应该是整个闲着的。
    也许能设置吧,可以在英伟达面板那边看看有没有优先级设置之类的。

    顺便,留意一下外接屏幕的显示适配器是核显还是独显。有的笔记本可能视频输出会给接在独显上面(英伟达面板可以看到具体信息)。
    我自己不是专业人士来着,仅供参考。

    图为性能跑分不及 iPad 三分之一的 SB (Surface Book)
    ETiV
        3
    ETiV  
       2023-04-05 20:35:21 +08:00 via iPhone   ❤️ 1
    刚刚看到了这个项目 https://github.com/Jittor/JittorLLMs

    针对 LZ 显存少的问题,它是这么说的:
    ……
    针对大模型显存消耗大等痛点,Jittor 团队研发了动态交换技术,根据我们调研,Jittor 框架是世界上首个支持动态图变量自动交换功能的框架,区别于以往的基于静态图交换技术,用户不需要修改任何代码,原生的动态图代码即可直接支持张量交换,张量数据可以在显存-内存-硬盘之间自动交换,降低用户开发难度。

    同时,根据我们调研,Jittor 大模型推理库也是目前对配置门槛要求最低的框架,只需要参数磁盘空间和 2G 内存,无需显卡,也可以部署大模型,下面是在不同硬件配置条件下的资源消耗与速度对比。可以发现,JittorLLMs 在显存充足的情况下,性能优于同类框架,而显存不足甚至没有显卡,JittorLLMs 都能以一定速度运行。
    ……
    kokutou
        4
    kokutou  
       2023-04-05 21:08:35 +08:00 via Android   ❤️ 1
    nv 控制面板菜单,gpu 指示器。
    看看是哪些程序占用独显。
    设置-显示设置里,单独设置成核显就行。

    笔记本接口都试一下,有的口是直连核显,有的是直连独显,要接在核显接口上。
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   939 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 47ms · UTC 21:10 · PVG 05:10 · LAX 13:10 · JFK 16:10
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.