V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
pol
V2EX  ›  问与答

问一下 dify 接入硅基流动的的 deepseek-v3 的 api 的问题

  •  
  •   pol · 15 天前 · 533 次点击

    我使用 dify 查询知识库后,需要用 llm 的 api 来处理查询出来的结果

    但我需要处理的数据比较多,目前可以理解 1000 行数据,但目前测下来只能处理 60 多行

    遇到的问题是

    调用 api 处理,在排除 api 报错超时的情况下,我的 api 回复输出一段时间后就自动停止了,没有任何报错。

    我起初以为是 dify 的调用 api 接口超时问题,我现在基本上都改成了 1 个小时,现在还是同样的情况

    请问这个是 dify 的问题还是 api 的问题,我在硅基上吗也没找到关于 api 的设置,而且我调用的是免费额度的模型,是不是换付费的 pro 模型会好点

    2 条回复    2025-03-05 09:19:46 +08:00
    syaoranex
        1
    syaoranex  
       7 天前
    你可以了解一下 max_token 这个概念。
    pol
        2
    pol  
    OP
       7 天前
    @syaoranex max_token 调最大和关掉,效果一样
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   4053 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 31ms · UTC 05:17 · PVG 13:17 · LAX 22:17 · JFK 01:17
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.