V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Distributions
Ubuntu
Fedora
CentOS
中文资源站
网易开源镜像站
usb7
V2EX  ›  Linux

类似 tinyML,做个运行在嵌入式 Linux 的《轻量级的》深度学习系统,有意义吗?

  •  
  •   usb7 · 311 天前 · 1582 次点击
    这是一个创建于 311 天前的主题,其中的信息可能已经有所发展或是发生改变。

    tinyML 这个开放的组织里已经有很多公司了。 https://www.tinyml.org/

    我想的这个《轻量级的》深度学习系统包括: = 《轻量级的》深度学习框架,例如:TensorFlow Lite, PyTorch Edge, tinygrade, 等等。 = 从轻量级的深度学习框架一直到 NPU kernel module 的《轻量级》的库,例如:tiny OpenCV 。 = NPU kernel module

    tinyML 和我想的这个轻量级的深度学习系统的比较是: = tinyML 基于实时操作系统;轻量级的深度学习系统运行在 Linux (有更多的软件工具)。 = tinyML 运行在 MCU 单片机(例如:400MHz ) + NPU ,轻量级的深度学习系统运行在华为昇腾或其它国产芯片( arm64 + NPU )。 = MCU 单片机里的 NPU 计算能力要比华为昇腾里的 NPU 弱不少。

    如果 tinyML 有意义,这个轻量级的深度学习系统有存在的意义吗?

    6 条回复    2023-12-27 19:20:59 +08:00
    paopjian
        1
    paopjian  
       311 天前
    这都是专有领域用的吧,比如摄像头人脸识别 人行识别 车辆检测这种, 需求就是算力低功耗低还要速度快,不然英伟达也不会出 jetson 了
    tap91624
        2
    tap91624  
       311 天前
    就是 npu 模块+一些预处理呗
    usb7
        3
    usb7  
    OP
       311 天前
    为这个《轻量级的》深度学习系统,可能取个类似 birdbrain 的名字。小鸟的小脑子。
    kneo
        4
    kneo  
       311 天前 via Android
    想做就做,不想做就不做。不知道你纠结啥。你是觉得万一没不成功就浪费了自己本来能一夜暴富的才华吗?
    mujia
        5
    mujia  
       311 天前
    如果是 llm 还有搞头,其他的还是算了,都已经很成熟了
    iorilu
        6
    iorilu  
       311 天前
    意义不大, 现在都调用 api 的, 为什么要在本地运行
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   2853 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 48ms · UTC 13:34 · PVG 21:34 · LAX 06:34 · JFK 09:34
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.