V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
awanganddong
V2EX  ›  程序员

大表怎么进行数据归档

  •  
  •   awanganddong · 2020-07-06 22:10:45 +08:00 via Android · 1728 次点击
    这是一个创建于 1599 天前的主题,其中的信息可能已经有所发展或是发生改变。
    现在表数据量大概在 1500 万左右,
    现在设计是每 7 天对旧数据进行归档,
    归档过程中还要尽可能小的影响业务。请求量最少时候在 1000qps 左右。
    6 条回复    2020-07-07 10:57:24 +08:00
    sherlockwhite
        1
    sherlockwhite  
       2020-07-07 00:08:11 +08:00
    定时任务?
    xuanbg
        2
    xuanbg  
       2020-07-07 01:54:22 +08:00
    SQL 定时任务跑脚本啊,单次数据 1K 条以内基本不会影响正常业务。估算一下应该多久跑一次,留个 20%余量安排上就行。
    cubecube
        3
    cubecube  
       2020-07-07 02:05:26 +08:00 via Android
    1000qps 那么,大表一天就超过 1500w 天纳克呀。。
    cubecube
        4
    cubecube  
       2020-07-07 02:08:48 +08:00 via Android
    想成修改了,实际没那么多。归档弄成归档库得了,从库直接 select into
    awanganddong
        5
    awanganddong  
    OP
       2020-07-07 09:02:55 +08:00
    也就是我复制一份表结构做归档表,然后起 sql 把数据写到归档表,最后删除原表的数据,只保留七天内的。
    这时候存在问题就是原表数据其实还是存在的
    cyspy
        6
    cyspy  
       2020-07-07 10:57:24 +08:00
    binlog 同步过去
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1096 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 23ms · UTC 22:50 · PVG 06:50 · LAX 14:50 · JFK 17:50
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.