V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX 提问指南
zh584728
V2EX  ›  问与答

请问: 100w 个文件怎样快速合并到一起

  •  
  •   zh584728 · 2020-07-08 16:59:47 +08:00 · 1070 次点击
    这是一个创建于 1581 天前的主题,其中的信息可能已经有所发展或是发生改变。

    每个文件倒是不大,几百到几千行不等

    尝试使用cat 但是内存会溢出

    笨办法倒是有,一个一个文件去读取...但好像也不快

    所以有啥奇淫技巧吗

    5 条回复    2020-07-09 09:44:36 +08:00
    jimliang
        1
    jimliang  
       2020-07-08 17:08:48 +08:00
    cat file1 file2 > file
    liprais
        2
    liprais  
       2020-07-08 17:09:11 +08:00
    格式一样么
    格式一样放在一个目录下面用 spark 完事
    jimliang
        3
    jimliang  
       2020-07-08 17:12:04 +08:00
    不好意思,刚刚没看到已经尝试用过 cat 了
    xupefei
        4
    xupefei  
       2020-07-08 17:17:13 +08:00
    fish:

    for f in (ls)
    cat $f >> combined.txt
    end

    bash/zsh 同理。
    deppindeepin
        5
    deppindeepin  
       2020-07-09 09:44:36 +08:00
    何谓"快速"?指的是快速实现还是快速合并(合并速度)?
    如果是前者的吧,拿一个自己熟悉的脚本语言搞一下岂不是分分钟么
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3070 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 22ms · UTC 13:38 · PVG 21:38 · LAX 05:38 · JFK 08:38
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.