去评论
dz插件网

手把手教你用ETCD

迪巴拉
2023/04/21 15:53:39
一句话概括的话：ETCD 是一个基于 RAFT 的分布式 KV 存储系统。一个 ETCD 集群通常是由 3、5、7 之类奇数个节点组成的，为什么不选择偶数个节点？在集群系统中为了选出 LEADER 节点，至少要有半数以上的节点达成共识，举例说明：
如上可见当节点数是偶数个的时候，系统的容灾能力并没有得到提升，所以节点数一般选择 3、5、7 之类的奇数，至于具体选择多少的话，一般推荐 3 或者 5 比较合适，太少的话系统没有容灾能力，太多的话 LEADER 节点的通信任务会变得繁重，影响性能。

如何搭建一个 ETCD 集群呢？比如在本地部署一个 3 个节点的集群，参考文档操作：
  1. CLUSTER="etcd-0=http://127.0.0.1:2380,etcd-1=http://127.0.0.1:3380,etcd-2=http://127.0.0.1:4380"
  3. /usr/local/bin/etcd \
  4.     --name etcd-0 \
  5.     --data-dir etcd-0.etcd \
  6.     --listen-client-urls http://127.0.0.1:2379 \
  7.     --listen-peer-urls http://127.0.0.1:2380 \
  8.     --advertise-client-urls http://127.0.0.1:2379 \
  9.     --initial-advertise-peer-urls http://127.0.0.1:2380 \
  10.     --initial-cluster ${CLUSTER} &
  12. /usr/local/bin/etcd \
  13.     --name etcd-1 \
  14.     --data-dir etcd-1.etcd \
  15.     --listen-client-urls http://127.0.0.1:3379 \
  16.     --listen-peer-urls http://127.0.0.1:3380 \
  17.     --advertise-client-urls http://127.0.0.1:3379 \
  18.     --initial-advertise-peer-urls http://127.0.0.1:3380 \
  19.     --initial-cluster ${CLUSTER} &
  21. /usr/local/bin/etcd \
  22.     --name etcd-2 \
  23.     --data-dir etcd-2.etcd \
  24.     --listen-client-urls http://127.0.0.1:4379 \
  25.     --listen-peer-urls http://127.0.0.1:4380 \
  26.     --advertise-client-urls http://127.0.0.1:4379 \
  27.     --initial-advertise-peer-urls http://127.0.0.1:4380 \
  28.     --initial-cluster ${CLUSTER} &
集群运行起来后，可以通过如下命令来确认状态是否正常：
  1. shell> etcdctl member list -w table
  2. +------------------+---------+--------+-----------------------+-----------------------+------------+
  3. |        ID        | STATUS  |  NAME  |      PEER ADDRS       |     CLIENT ADDRS      | IS LEARNER |
  4. +------------------+---------+--------+-----------------------+-----------------------+------------+
  5. | b71f75320dc06a6c | started | etcd-0 | http://127.0.0.1:2380 | http://127.0.0.1:2379 |      false |
  6. | d07d5325fff892c1 | started | etcd-1 | http://127.0.0.1:3380 | http://127.0.0.1:3379 |      false |
  7. | b7bacd4212cc9323 | started | etcd-2 | http://127.0.0.1:4380 | http://127.0.0.1:4379 |      false |
  8. +------------------+---------+--------+-----------------------+-----------------------+------------+
  10. shell> etcdctl endpoint status --cluster -w table
  11. +-----------------------+------------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+
  12. |       ENDPOINT        |        ID        | VERSION | DB SIZE | IS LEADER | IS LEARNER | RAFT TERM | RAFT INDEX | RAFT APPLIED INDEX | ERRORS |
  13. +-----------------------+------------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+
  14. | http://127.0.0.1:2379 | b71f75320dc06a6c |  3.4.10 |   25 kB |     false |      false |         2 |          8 |                  8 |        |
  15. | http://127.0.0.1:3379 | d07d5325fff892c1 |  3.4.10 |   25 kB |      true |      false |         2 |          8 |                  8 |        |
  16. | http://127.0.0.1:4379 | b7bacd4212cc9323 |  3.4.10 |   25 kB |     false |      false |         2 |          8 |                  8 |        |
  17. +-----------------------+------------------+---------+---------+-----------+------------+-----------+------------+--------------------+--------+
虽然在本地部署 ETCD 集群很简单，但是在 K8S 上部署 ETCD 集群的话，往往会复杂很多，网上能找到一些别人共享的部署脚本，估计大家看了会疯掉。难点主要在于当我们在 K8S 上部署 ETCD 集群的时候，出于可伸缩性的考虑，一般不会采用固定 IP 的做法，也就是说节点的 IP 是无法事先确定的，而启动 ETCD 集群的时候又需要确定各个接入的节点（initial-cluster），于是产生了矛盾。好在作为一个有状态服务（StatefulSet），可以使用 Headless service 为每一个 POD 提供一个稳定的并且唯一的网络标识，也就是内网域名：「$(statefulset)-$(ordinal).$(service).$(namespace).svc.cluster.local」，当交互双方在同一个 namespace 下的话，甚至可以简写成「$(statefulset)-$(ordinal).$(service)」：
虽然每次部署的时候，节点 IP 都可能会变，但是节点的内网域名是不会变的，并且它会自动解析到对应的 IP 上，了解了这些，我们就可以编写自己的 K8S 脚本了：
  1. apiVersion: v1
  2. kind: Service
  3. metadata:
  4.   name: etcd
  5.   namespace: default
  6. spec:
  7.   clusterIP: None
  8.   publishNotReadyAddresses: true
  9. ---
  10. apiVersion: apps/v1
  11. kind: StatefulSet
  12. metadata:
  13.   name: etcd
  14.   namespace: default
  15. spec:
  16.   serviceName: etcd
  17.   replicas: 3
  18.   template:
  19.     spec:
  20.       dnsPolicy: ClusterFirst
  21.       containers:
  22.       - name: etcd
  23.         command:
  24.         - sh
  25.         - -c
  26.         - |
  27.           CLUSTER=""
  29.           for i in $(seq 0 3); do
  30.             CLUSTER=${CLUSTER}${CLUSTER:+,}etcd-${i}=http://etcd-${i}.etcd:2380
  31.           done
  33.           exec /usr/local/bin/etcd \
  34.             --name ${HOSTNAME} \
  35.             --data-dir /var/run/etcd/default.etcd \
  36.             --listen-client-urls http://0.0.0.0:2379 \
  37.             --listen-peer-urls http://0.0.0.0:2380 \
  38.             --advertise-client-urls http://${HOSTNAME}.etcd:2379 \
  39.             --initial-advertise-peer-urls http://${HOSTNAME}.etcd:2380 \
  40.             --initial-cluster ${CLUSTER}
友情提示：如上脚本非完整代码，此外，其中有几个需要留意的配置，分别是：
掌握了前面说的内容之后，独立部署一个 ETCD 集群应该问题不大了，不过如果是在外网部署的话，安全起见，最好学习 TLS 相关知识，官方文档不容错过，其中有一个关于使用 cfssl 生成自签名证书的例子，此外，强烈建议多看看「TLS完全指南」，里面有关于安全etcd机群的精彩描述。
最后，再安利一下 etcd web ui 方面比较出色的工具：etcdkeeper，收工。

原文地址：https://huoding.com/2020/08/19/839
进入原文参与互动