0x00 元

tidb ddl 3.0 版本之前只有一个队列提供服务,所有 ddl 都要在这个队列阻塞

  • 多个 TiDB-server 会先选举 DDL owner
    • TiDB 配置文件中的 run-ddl = false 该节点不支持运行 DDL
  • DDL owner 处理所有 DDL 信息
    • 更多可阅读 TiDB 异步 schema 变更实现 文档
    • add index 是所有 DDL 中最耗时的
    • 其他 DDL 均为修改元数据信息,秒级以内可返回

ap.tidb.cc TiDB 异步 schema 变更实现

ddl history 功能来自 TiDB-API

  • 通过 API 获取到指定 tidb cluster 集群“自搭建成功”到“现在运行”的所有 DDL 记录
    • 早前版本数据输出时所有数据「json」都在一行,通过 jq 命令或者 python 格式化之后会比较方便查看信息
    • PR #9104 之后的版本优化了「大一行」输出
    • ddl/history 早前版本获取到 DDL 的信息「不完整」,信息记录了 truncate 当前版本的变更,没有记录 truncate 变更后的信息;问题早已修复
1
2
3
4
5
6
7
#Get all TiDB DDL job history information.

curl http://{TiDBIP}:10080/ddl/history

#Get count {number} TiDB DDL job history information.

curl http://{TiDBIP}:10080/ddl/history?limit={number}
  • 通过 API 获取指定 db 下所有表、指定 table id、指定 db.table 的 json 元信息
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
# Get schema Information about db

curl http://{TiDBIP}:10080/schema/{db}


# Get schema Information about db.table, and you can get schema info by tableID (tableID is the unique identifier of table in TiDB)

curl http://{TiDBIP}:10080/schema/{db}/{table}

curl http://{TiDBIP}:10080/schema?table_id={tableID}

0x01 Admin show ddl

TiDB-server 除 API 功能还有个 admin show ddl jobs 与 admin show ddl jobs 100(该语句需要 3.0 版本以上,输出最近 100 条信息)

ap.tidb.cc truncare table ddl admin show ddl jobs

0x02 Truncate

  • truncate table DDL 操作是通过 DROP table + Create table 组成实现,table id 会紧随更改 「DDL 操作 “元信息” 数据」
    • 图片中的首行 ID 是 DDL job ID
    • 每次 truncate table 后的 table_id 会变化「scheme id、table id 、ddl job id 共用同一套计数器」

ap.tidb.cc truncare table ddl

0x03 Json

  • 以下为某张表的元信息展示「通过 tidb 4.0 补测」
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
{
 "id": 47,          // table id
 "name": {
  "O": "sbtest1",  // 
  "L": "sbtest1"   // 
 },
 "charset": "utf8mb4",
 "collate": "utf8mb4_bin",
 "cols": [
  {
   "id": 1,         //  id
   "name": {        // 
    "O": "k",
    "L": "k"
   },
   "offset": 0,     //  
   "origin_default": null,
   "origin_default_bit": null,
   "default": null,
   "default_bit": null,
   "default_is_expr": false,
   "generated_expr_string": "",
   "generated_stored": false,
   "dependences": null,
   "type": {
    "Tp": 3,
    "Flag": 515,
    "Flen": 11,
    "Decimal": 0,
    "Charset": "binary",
    "Collate": "binary",
    "Elems": null
   },
   "state": 5,
   "comment": "",
   "hidden": false,
   "version": 2
  },

 ],
 "index_info": [        // index 
  {
   "id": 1,
   "idx_name": {
    "O": "k_1",
    "L": "k_1"
   },
   "tbl_name": {
    "O": "",
    "L": ""
   },
   "idx_cols": [
    {
     "name": {
      "O": "k",
      "L": "k"
     },
     "offset": 1,
     "length": -1
    }
   ],
   "state": 5,
   "comment": "",
   "index_type": 1,
   "is_unique": false,
   "is_primary": false,
   "is_invisible": false,
   "is_global": false
  }
 ],                             //  tidb  table 
 "constraint_info": null,       // 4.0 
 "fk_info": null,               //  foreign key
 "state": 5,
 "pk_is_handle": true,          // int  PK == true
 "is_common_handle": false,     // varchar  PK  == true
                    //  pk_is_handle & is_common_handle  false
 "comment": "",
 "auto_inc_id": 0,          // AUTO_INCREMENT 
 "auto_id_cache": 0,        // AUTO_ID_CACHE  ID 
 "auto_rand_id": 0,         // AUTO_RANDOM 
 "max_col_id": 4,
 "max_idx_id": 1,
 "max_cst_id": 0,
 "update_timestamp": 418539877049565193,
 "ShardRowIDBits": 0,       // SHARD_ROW_ID_BITS 
 "max_shard_row_id_bits": 0,
 "auto_random_bits": 0,     //  shard row id bits 使
 "pre_split_regions": 0,    // pre split  table region 
 "partition": null,         // 
 "compression": "",         //  COMPRESSION [=] {'ZLIB'|'LZ4'|'NONE'} 
 "view": null,              // 
 "sequence": null,          // sequence 
 "Lock": null,              //  table lock
 "version": 3,
 "tiflash_replica": null    // tiflash 
}