V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
• 请不要在回答技术问题时复制粘贴 AI 生成的内容
junwind
V2EX  ›  程序员

搞 Ai 大模型的,都是 Python 首选吗?

  •  
  •   junwind · 1 天前 · 4567 次点击

    如题:搞 Ai 的,编程语言,python 是首选吗?

    36 条回复    2025-02-12 15:41:51 +08:00
    ModiKa2022
        1
    ModiKa2022  
       1 天前
    python 的库最丰富, 时间成本最低
    passive
        2
    passive  
       1 天前 via Android
    能自动求导的语言就这么几个
    fatigue
        3
    fatigue  
       1 天前
    是的
    thinszx
        4
    thinszx  
       1 天前
    如果不是做底层编译的,python 甚至已经不能算首选了,而是唯一选择
    TimePPT
        5
    TimePPT  
       1 天前
    推理阶段的应用层工程化都无所谓,因为部署完基本都是微服务/api 调用
    模型训练微调用 python 多些,主要 PyTorch / Transformers 太方便了
    底层 infra 各家都不太一样,我见过某小虎家有用 c++写的
    NoOneNoBody
        6
    NoOneNoBody  
       1 天前
    不断调参的肯定是脚本语言,不然调一次参数编译一次?
    至于什么脚本,python 大数据相关包最多,所以是首选
    me1onsoda
        7
    me1onsoda  
       1 天前
    应用层面吗? langchain 有 js 版本
    Braisdom
        8
    Braisdom  
       1 天前
    我的项目后台全部是 Python 的,https://www.agiquery.com
    gzlock
        9
    gzlock  
       1 天前
    llama.cpp
    c++的
    mumbler
        10
    mumbler  
       1 天前
    反正都是 AI 写代码,用什么语言无所谓,AI 喜欢什么代码密度比较大的语言
    LnTrx
        11
    LnTrx  
       1 天前
    去看一下机器学习框架的文档就知道了,Python 是绝对主流,有特定需要才会用其它语言
    mykaii
        12
    mykaii  
       1 天前
    @Braisdom 老哥你这个文档用的是什么框架
    yushi17
        13
    yushi17  
       1 天前
    以我们这些搞大模型研究的人的智商,也就能学明白 python 了
    lizhisty
        14
    lizhisty  
       1 天前
    @yushi17 你是造航母的?
    lizhisty
        15
    lizhisty  
       1 天前
    @lizhisty 不好意思,看错了
    wnpllrzodiac
        16
    wnpllrzodiac  
       1 天前 via Android
    python 门槛低。要是 cpp ,要劝退一批人。调调参数的都叫 深度学习开发专家。能公式推导的估计不多。
    dayeye2006199
        17
    dayeye2006199  
       1 天前 via Android
    Python 和 c++
    其他都是整活。上面两个是业界标准,其他连二等公民都算不上
    hellojay
        18
    hellojay  
       1 天前
    @lizhisty 哈哈哈哈
    guanhui07
        19
    guanhui07  
       1 天前
    是的 门槛低
    ShadowPower
        20
    ShadowPower  
       1 天前
    训练/提供在线 API 是,在实际产品中落地不是
    mightybruce
        21
    mightybruce  
       1 天前
    必须是 Python, 先看看其他语言的库都是把 python 库转译一下,根本没有什么创新,这两年,光大模型的 python agent, 工作流都不知道迭代了多少轮了,还看什么其他语言,看其他实现只会阻碍灵感。

    训练和推理计算引擎的底层如 pytorch, tensorflow 都是 c++, 但是那也不是做业务研究干的事情, 最出名的比如 llama.cpp 也是。

    搞大模型都是最聪明的一些人,写代码对于他们小意思了,v2ex 上基本都没几个人能进入的。DeepSeek 技术团队中这些信奥赛金牌得主或国家级竞赛选手,有几个不是从初高中就接触编程的。
    mightybruce
        22
    mightybruce  
       1 天前
    上面我把 大模型应用开发, 大模型微调和基座混在一起了谈了,

    普通人使用 Python 搞搞大模型应用开发,现在这个技术栈迭代还在不断变化,最近都是知识图谱配合大模型,

    咱们智商不够上 C9 的就不想什么大模型基座了。
    565656
        23
    565656  
       1 天前
    认识一个某 qs 前几的 ai 博士,不知道自己电脑的内存+存储多大
    qzydustin
        24
    qzydustin  
       1 天前
    @565656 大概率是数学背景的,做理论方向不关心电脑配置的很多。计算机科学家和电脑发烧友不一样
    mingtdlb
        25
    mingtdlb  
       1 天前
    @565656 虽然有点夸张,但你这是典型的计算机行业的人都会修电脑。。。
    kepenj
        26
    kepenj  
       1 天前
    这问题就跟为啥市面上外挂大部分都是易语言写出来的一样,真正研究这玩意的,语言只是工具。大家都喜欢使用趁手的工具。
    hushuguo
        27
    hushuguo  
       1 天前
    bugmaker233
        28
    bugmaker233  
       1 天前
    @565656 很真实
    iorilu
        29
    iorilu  
       23 小时 47 分钟前
    开发模型尝试各种配置, 数据处理, 训练肯定都是 python 阿

    唯一可能不只需要 python 就是线上部署优化, 可能把部分代码用 c++或 rust 重写, 但那是很后面的事, 绝大多数情况根本不会到这一步
    hwdq0012
        30
    hwdq0012  
       23 小时 8 分钟前
    torch c++版本叫 libtorch 用 c++也能训练,也能推理,只是一般人用 pytorch 训练, 部署时用其他(毕竟 python 写的程序性能太差了,部署后一般是其他语言了)
    mertas
        31
    mertas  
       22 小时 45 分钟前
    确实是,中小学教育都也开始普及了
    hytex
        32
    hytex  
       22 小时 14 分钟前
    @565656 同……之前问某软工研究生不知道硬盘是什么
    yolee599
        33
    yolee599  
       22 小时 13 分钟前
    我做嵌入式的小模型,都是用 python 训练好通用模型,再量化成对应平台的模型,这时候就可以用 c/c++ 执行了。
    belin520
        34
    belin520  
       22 小时 12 分钟前
    @565656 难怪我过年回家不是被叫去修电脑,就是去调试电视机系统,这刻板印象
    Newbee24
        35
    Newbee24  
       40 分钟前
    @lizhisty #15 hhh
    thorneLiu
        36
    thorneLiu  
       23 分钟前 via Android
    我们有一部分推理是 cpp cuda 手写的
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5608 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 08:05 · PVG 16:05 · LAX 00:05 · JFK 03:05
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.