V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
yuoboo
V2EX  ›  问与答

关于 celery 异步任务的问题

  •  
  •   yuoboo · 2019-03-26 22:04:09 +08:00 via Android · 1457 次点击
    这是一个创建于 2063 天前的主题,其中的信息可能已经有所发展或是发生改变。

    使用 celery +rabbirmq 发送异步任务 每个任务有独立队列

    如何统计每分钟任务发送量和最大峰值极限发送量各是多少?

    如果队列突然进入大批量任务,如何能快速处理大批量任务?

    任务执行不成功如何以可控时间间隔来重复执行失败任务?

    等大佬赐教!!

    3 条回复    2019-03-27 08:36:19 +08:00
    yuoboo
        1
    yuoboo  
    OP
       2019-03-26 23:03:41 +08:00 via Android
    等大佬上线
    di94sh
        2
    di94sh  
       2019-03-27 04:49:19 +08:00 via Android
    1.直接监控 rabbitmq
    2.celery 是分布式任务队列,那么加机器。机器不够就通过监控 rabbit mq 弹性扩容。
    3.执行异步任务时都把入参,任务的 key,任务执行状态写到数据库。任务完成后更改数据库里状态。再搞一个定时任务,去数据库把失败的任务放到队列。
    yuoboo
        3
    yuoboo  
    OP
       2019-03-27 08:36:19 +08:00 via Android
    @di94sh 感谢
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   6093 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 29ms · UTC 06:11 · PVG 14:11 · LAX 22:11 · JFK 01:11
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.