开源项目方向选择： LLM 网关 vs API 商城 - 征求大佬们意见与建议

[Astronautly]

**求建议 **! 最近开源小组做了一个 API 开放的项目，但是团队内部对于方向是 LLM 网关还是 API 商城不确定，想咨询下大家的建议。 先谢谢各位大佬！

项目地址： https://github.com/APIParkLab/APIPark

虽然最近几年 API 经济发展有苗头，但是目前我们还看不清企业上下游或者内外直接是否有那么多 API 资产可以商业化。 另外一点是，虽然 AI 的冲击确实有很大影响，但是 AI 的准确度还有待提升，而真正接入 LLM ，把 AI 和公司业务结合的除了 AI 套壳或者 AI 相关产品外，雷声大雨点小。想听听大家意见，欢迎评论。 弱弱说一句.... 如果能给我们点个星星那就再好不过了，跪谢！

LLM 网关：

主要给中大型企业、AI 相关公司用，方便同时接入多款 LLM ，支持多模型的实例的负载均衡；统一管理公司的 LLM 调用过滤敏感信息和实现调用额度的配额，方便成本控制。

1 ）接入各种主流 LLM

2 ） LLM 自动切换

3 ） Prompt 管理、保护机制

3 ）企业内外信息过滤机制

4 ） Token 容量配置、监控、告警

......

API 商城：

主要是给企业端或者独立开发者用，用于搭建自己的 API 商城，接入付费系统给上下游或者面相 C 端开发者订阅购买，如果是 API 商城，想着会增加以下功能：

1 ）付费系统

2 ）商城用户系统

3 ）商场自定义落地页

......