首页 注册 登录
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
9527kf
V2EX  ›  开源软件

各位大佬，有没有转发和统计大模型 tokens 的开源工具

  •   
  •   9527kf · 3 天前 · 260 次点击
    公司内想统计每个开发使用的 tokens 数量。
    现在想的是找个工具，转发厂商的 API ，来统计每个用户的 tokens 数量。

    有这样的开源工具能实现吗

    谢谢
  • tokens
  • 统计
  • 开源
    2 条回复  •  2025-03-27 23:19:52 +08:00
    null113
        1
    null113  
       3 天前
    oneapi
    yangg
        2
    yangg  
       3 天前 via iPhone
    litellm 大概这个拼写，搜下
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3281 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 18ms · UTC 04:55 · PVG 12:55 · LAX 21:55 · JFK 00:55
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.