[如何在 1s 内统计出 13 亿人口使用人数最多的十个姓名] 的答案

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

现在注册

已注册用户请登录

这是一个创建于 1382 天前的主题，其中的信息可能已经有所发展或是发生改变。

使用的工具

环境笔记本的虚拟机内

top - 16:01:06 up 2 days,  3:44,  1 user,  load average: 0.09, 0.38, 0.71
Tasks: 117 total,   1 running, 116 sleeping,   0 stopped,   0 zombie
%Cpu0  :  0.0 us,  1.4 sy,  0.0 ni, 98.6 id,  0.0 wa,  0.0 hi,  0.0 si,  0.0 st
MiB Mem :   1970.9 total,    354.0 free,    861.4 used,    755.5 buff/cache
MiB Swap:   2045.0 total,   2044.5 free,      0.5 used.    786.5 avail Mem

结果

MiWiFi-R4A-srv :) select count(),name from t10 group by name order by count() desc limit 10;

SELECT
    count(),
    name
FROM t10
GROUP BY name
ORDER BY count() DESC
LIMIT 10

Query id: 79b52b2e-8fd0-4321-b4d1-270d3800164b

┌─count()─┬─name─────────────────┐
│   13856 │ 异邦                 │
│   13850 │ 长江三峡水利枢纽工程 │
│   13849 │ 龙旗                 │
│   13842 │ 王揖唐               │
│   13832 │ 用费                 │
│   13830 │ 兴办                 │
│   13820 │ 榨油                 │
│   13814 │ 增值                 │
│   13805 │ 宗谱                 │
│   13803 │ 膏粱                 │
└─────────┴──────────────────────┘

10 rows in set. Elapsed: 23.574 sec. Processed 1.35 billion rows, 22.66 GB (57.35 million rows/s., 961.18 MB/s.)

过程

模拟姓名下载结巴分词的词库 https://raw.githubusercontent.com/fxsjy/jieba/master/extra_dict/dict.txt.small 取出名字大于 1 汉子的词。

$f     = fopen(__DIR__ . '/../dict.txt.small.txt', 'r');
$names = [];
while ($str = fgets($f)) {
    $arr = explode(' ', trim($str));
    if (strlen($arr[0]) > 5) {
        $names[] = $arr[0];
    }
}

建表并将数据写入数据库

$ck = new Client('tcp://192.168.23.129:9091', 'default', '123456', 'test1');


$data['drop table']   = $ck->query('DROP TABLE IF EXISTS t10');
$table                = [
    'CREATE TABLE t10 (',
    '`name` String',
    ') ENGINE = MergeTree() ORDER BY name SETTINGS index_granularity = 8192'
];
$data['create table'] = $ck->query(implode("\n", $table));
for ($nj = 0; $nj < 150; $nj++) {
    $ck->writeStart('t10', ['name']);
    for ($i = 0; $i < 1000; $i++) {
        $da = [];
        for ($j = 0; $j < 10000; $j++) {
            $da[] = [
                'name'  => $names[mt_rand(1, 101048)],
            ];
        }
        $ck->writeBlock($da);
    }
    $ck->writeEnd();
    echo 'nj : ' . $nj . PHP_EOL;
}

本打算写 15 亿的，感觉没必要中途暂停了一共写入了 1352100000 条记录。

估计服务器 cpu 核心 8 以上的应该能达到 1s 以内。

8 条回复 • 2021-01-25 16:43:54 +08:00