etcd 初探 + 集群部署

本贴最后更新于 1911 天前,其中的信息可能已经时异事殊

一: 简介
    1) 近年来随着 docker+kubenetes 流行与火热,它们都默认用了 etcd 组件作为一个高可用的跨节点的数据存储仓库,etcd 是什么?很多人第一反应是键值存储仓库。首先先看官方的定义。
etcd 是一个分布式的键值存储仓库,它提供了一种跨集群的的数据存储的可靠方法。

etcd is a distributed key value store that provides a reliable way to store data across a cluster of machines.

    看了以上定义,可能又有人会问,这种分布式的跨集群的数据存储有许多,为什么会是它,请看另一段定义。
etcd 是一个开源的分布式键值存储仓库,它为容器提供了配置共享和服务发现。

etcd is an open-source distributed key value store that provides shared configuration and service discovery for Container Linux clusters.

    2) etcd 和 ZooKeeper/Consul/doozer 等非常相似,都提供了类似的功能,以及 REST API 的访问操作,具有以下特点:
      * 简单:安装和使用简单,提供了 REST API 进行操作交互
      * 安全:支持 HTTPS SSL 证书
      * 快速:支持并发千次的读写操作
      * 可靠:采用 raft 算法,实现分布式系统数据的可用性和一致性
    3) etcd 用有限的资源,就可以提供高可用跟高并发服务。具体的参数请参考官方网站:
        https://coreos.com/etcd/docs/latest/op-guide/hardware.html
    4) etcd 构建自身高可用集群主要有三种形式:
        ① 静态发现: 预先已知 etcd 集群中有哪些节点,在启动时直接指定好 Etcd 的各个 node 节点地址
        ② etcd 动态发现: 通过已有的 etcd 集群作为数据交互点,然后在扩展新的集群时实现通过已有集群进行服务发现的机制
        ③ dns 动态发现: 通过 DNS 查询方式获取其他节点地址信息
    本文主要介绍第一种方式。
二:环境介绍:
    三台虚拟机,系统环境均为 Centos7,对应节点名称及 IP 地址如下:
    app1:192.168.16.5
    app2:192.168.16.6
    app3:192.168.16.102
三:安装&配置
    三台机器分别执行 sudo yum install etcd -y,yum 安装的 etcd 默认配置文件在/etc/etcd/etcd.conf,以下将三个节点上的配置贴出来,未贴出部分不影响集群的搭建就表明暂时不用改
    app1:
        #[Member]
        #数据存放路径
        ETCD_DATA_DIR="/var/lib/etcd/default.etcd"
        #监听其他 etcd node 的 url
        ETCD_LISTEN_PEER_URLS="http://192.168.16.5:2380,http://127.0.0.1:2380"
        #监听客户端的 url,etcdctl 默认 ip 为 127.0.0.1,不追加 127.0.0.1 可能会报端口拒绝的错误
        ETCD_LISTEN_CLIENT_URLS="http://192.168.16.5:2379,http://127.0.0.1:2379"
        ETCD_NAME="app1"
        #[Clustering]
        #集群内通信用 url
        ETCD_INITIAL_ADVERTISE_PEER_URLS="http://192.168.16.5:2380"
        #集群内广播给其他节点用 url
        ETCD_ADVERTISE_CLIENT_URLS="http://192.168.16.5:2379"
        #初始化集群列表
        ETCD_INITIAL_CLUSTER="app1=http://192.168.16.5:2380,app2=http://192.168.16.6:2380,app3=http://192.168.16.102:2380"
        #集群名称
        ETCD_INITIAL_CLUSTER_TOKEN="etcd-cluster"
        #初期化集群状态,new 为新建集群
        ETCD_INITIAL_CLUSTER_STATE="new"
    app2:
        #[Member]
        ETCD_DATA_DIR="/var/lib/etcd/default.etcd"
        ETCD_LISTEN_PEER_URLS="http://192.168.16.6:2380,http://127.0.0.1:2380"
        ETCD_LISTEN_CLIENT_URLS="http://192.168.16.6:2379,http://127.0.0.1:2379"
        ETCD_NAME="app2"
        #[Clustering]
        ETCD_INITIAL_ADVERTISE_PEER_URLS="http://192.168.16.6:2380"
        ETCD_ADVERTISE_CLIENT_URLS="http://192.168.16.6:2379"
        ETCD_INITIAL_CLUSTER="app1=http://192.168.16.5:2380,app2=http://192.168.16.6:2380,app3=http://192.168.16.102:2380"
        ETCD_INITIAL_CLUSTER_TOKEN="etcd-cluster"
        ETCD_INITIAL_CLUSTER_STATE="new"
    app3:
        #[Member]
        ETCD_DATA_DIR="/var/lib/etcd/default.etcd"
        ETCD_LISTEN_PEER_URLS="http://192.168.16.102:2380,http://127.0.0.1:2380"
        ETCD_LISTEN_CLIENT_URLS="http://192.168.16.102:2379,http://127.0.0.1:2379"
        ETCD_NAME="app3"
        #[Clustering]
        ETCD_INITIAL_ADVERTISE_PEER_URLS="http://192.168.16.102:2380"
        ETCD_ADVERTISE_CLIENT_URLS="http://192.168.16.102:2379"
        ETCD_INITIAL_CLUSTER="app1=http://192.168.16.5:2380,app2=http://192.168.16.6:2380,app3=http://192.168.16.102:2380"
        ETCD_INITIAL_CLUSTER_TOKEN="etcd-cluster"
        ETCD_INITIAL_CLUSTER_STATE="new"
    改好配置之后,在各个节点上开启 etcd 服务:sudo systemctl restart etcd,集群就此搭建完毕
四:测试验证:
    1. etcdctl member list
        4ed30152ffb4e90b: name=app2 peerURLs=http://192.168.16.6:2380 clientURLs=http://192.168.16.6:2379 isLeader=false
        8db7b2edc9e1381e: name=app3 peerURLs=http://192.168.16.102:2380 clientURLs=http://192.168.16.102:2379 isLeader=false
        973ffc1324497d5b: name=app1 peerURLs=http://192.168.16.5:2380 clientURLs=http://192.168.16.5:2379 isLeader=true
    2. etcdctl cluster-health
        member 4ed30152ffb4e90b is healthy: got healthy result from http://192.168.16.6:2379
        member 8db7b2edc9e1381e is healthy: got healthy result from http://192.168.16.102:2379
        member 973ffc1324497d5b is healthy: got healthy result from http://192.168.16.5:2379
        cluster is healthy
五:参考资料
    https://coreos.com/etcd/

  • etcd

    etcd 是一个分布式、高可用的 key-value 数据存储,专门用于在分布式系统中保存关键数据。

    5 引用 • 26 回帖 • 489 关注

相关帖子

欢迎来到这里!

我们正在构建一个小众社区,大家在这里相互信任,以平等 • 自由 • 奔放的价值观进行分享交流。最终,希望大家能够找到与自己志同道合的伙伴,共同成长。

注册 关于
请输入回帖内容 ...

推荐标签 标签

  • etcd

    etcd 是一个分布式、高可用的 key-value 数据存储,专门用于在分布式系统中保存关键数据。

    5 引用 • 26 回帖 • 489 关注
  • 禅道

    禅道是一款国产的开源项目管理软件,她的核心管理思想基于敏捷方法 scrum,内置了产品管理和项目管理,同时又根据国内研发现状补充了测试管理、计划管理、发布管理、文档管理、事务管理等功能,在一个软件中就可以将软件研发中的需求、任务、bug、用例、计划、发布等要素有序的跟踪管理起来,完整地覆盖了项目管理的核心流程。

    5 引用 • 15 回帖 • 223 关注
  • CloudFoundry

    Cloud Foundry 是 VMware 推出的业界第一个开源 PaaS 云平台,它支持多种框架、语言、运行时环境、云平台及应用服务,使开发人员能够在几秒钟内进行应用程序的部署和扩展,无需担心任何基础架构的问题。

    5 引用 • 18 回帖 • 151 关注
  • Maven

    Maven 是基于项目对象模型(POM)、通过一小段描述信息来管理项目的构建、报告和文档的软件项目管理工具。

    185 引用 • 318 回帖 • 352 关注
  • TGIF

    Thank God It's Friday! 感谢老天,总算到星期五啦!

    284 引用 • 4481 回帖 • 652 关注
  • flomo

    flomo 是新一代 「卡片笔记」 ,专注在碎片化时代,促进你的记录,帮你积累更多知识资产。

    3 引用 • 74 回帖 • 2 关注
  • H2

    H2 是一个开源的嵌入式数据库引擎,采用 Java 语言编写,不受平台的限制,同时 H2 提供了一个十分方便的 web 控制台用于操作和管理数据库内容。H2 还提供兼容模式,可以兼容一些主流的数据库,因此采用 H2 作为开发期的数据库非常方便。

    11 引用 • 54 回帖 • 637 关注
  • 互联网

    互联网(Internet),又称网际网络,或音译因特网、英特网。互联网始于 1969 年美国的阿帕网,是网络与网络之间所串连成的庞大网络,这些网络以一组通用的协议相连,形成逻辑上的单一巨大国际网络。

    96 引用 • 330 回帖
  • Swagger

    Swagger 是一款非常流行的 API 开发工具,它遵循 OpenAPI Specification(这是一种通用的、和编程语言无关的 API 描述规范)。Swagger 贯穿整个 API 生命周期,如 API 的设计、编写文档、测试和部署。

    26 引用 • 35 回帖 • 7 关注
  • jsoup

    jsoup 是一款 Java 的 HTML 解析器,可直接解析某个 URL 地址、HTML 文本内容。它提供了一套非常省力的 API,可通过 DOM,CSS 以及类似于 jQuery 的操作方法来取出和操作数据。

    6 引用 • 1 回帖 • 456 关注
  • QQ

    1999 年 2 月腾讯正式推出“腾讯 QQ”,在线用户由 1999 年的 2 人(马化腾和张志东)到现在已经发展到上亿用户了,在线人数超过一亿,是目前使用最广泛的聊天软件之一。

    45 引用 • 557 回帖 • 224 关注
  • Lute

    Lute 是一款结构化的 Markdown 引擎,支持 Go 和 JavaScript。

    25 引用 • 191 回帖 • 16 关注
  • GitHub

    GitHub 于 2008 年上线,目前,除了 Git 代码仓库托管及基本的 Web 管理界面以外,还提供了订阅、讨论组、文本渲染、在线文件编辑器、协作图谱(报表)、代码片段分享(Gist)等功能。正因为这些功能所提供的便利,又经过长期的积累,GitHub 的用户活跃度很高,在开源世界里享有深远的声望,并形成了社交化编程文化(Social Coding)。

    207 引用 • 2031 回帖
  • Logseq

    Logseq 是一个隐私优先、开源的知识库工具。

    Logseq is a joyful, open-source outliner that works on top of local plain-text Markdown and Org-mode files. Use it to write, organize and share your thoughts, keep your to-do list, and build your own digital garden.

    4 引用 • 55 回帖 • 6 关注
  • Swift

    Swift 是苹果于 2014 年 WWDC(苹果开发者大会)发布的开发语言,可与 Objective-C 共同运行于 Mac OS 和 iOS 平台,用于搭建基于苹果平台的应用程序。

    34 引用 • 37 回帖 • 496 关注
  • RabbitMQ

    RabbitMQ 是一个开源的 AMQP 实现,服务器端用 Erlang 语言编写,支持多种语言客户端,如:Python、Ruby、.NET、Java、C、PHP、ActionScript 等。用于在分布式系统中存储转发消息,在易用性、扩展性、高可用性等方面表现不俗。

    49 引用 • 60 回帖 • 395 关注
  • JVM

    JVM(Java Virtual Machine)Java 虚拟机是一个微型操作系统,有自己的硬件构架体系,还有相应的指令系统。能够识别 Java 独特的 .class 文件(字节码),能够将这些文件中的信息读取出来,使得 Java 程序只需要生成 Java 虚拟机上的字节码后就能在不同操作系统平台上进行运行。

    180 引用 • 120 回帖 • 3 关注
  • Hibernate

    Hibernate 是一个开放源代码的对象关系映射框架,它对 JDBC 进行了非常轻量级的对象封装,使得 Java 程序员可以随心所欲的使用对象编程思维来操纵数据库。

    39 引用 • 103 回帖 • 676 关注
  • 运维

    互联网运维工作,以服务为中心,以稳定、安全、高效为三个基本点,确保公司的互联网业务能够 7×24 小时为用户提供高质量的服务。

    148 引用 • 257 回帖 • 2 关注
  • Chrome

    Chrome 又称 Google 浏览器,是一个由谷歌公司开发的网页浏览器。该浏览器是基于其他开源软件所编写,包括 WebKit,目标是提升稳定性、速度和安全性,并创造出简单且有效率的使用者界面。

    60 引用 • 287 回帖
  • Python

    Python 是一种面向对象、直译式电脑编程语言,具有近二十年的发展历史,成熟且稳定。它包含了一组完善而且容易理解的标准库,能够轻松完成很多常见的任务。它的语法简捷和清晰,尽量使用无异义的英语单词,与其它大多数程序设计语言使用大括号不一样,它使用缩进来定义语句块。

    534 引用 • 671 回帖
  • uTools

    uTools 是一个极简、插件化、跨平台的现代桌面软件。通过自由选配丰富的插件,打造你得心应手的工具集合。

    5 引用 • 13 回帖
  • RYMCU

    RYMCU 致力于打造一个即严谨又活泼、专业又不失有趣,为数百万人服务的开源嵌入式知识学习交流平台。

    4 引用 • 6 回帖 • 39 关注
  • Electron

    Electron 基于 Chromium 和 Node.js,让你可以使用 HTML、CSS 和 JavaScript 构建应用。它是一个由 GitHub 及众多贡献者组成的活跃社区共同维护的开源项目,兼容 Mac、Windows 和 Linux,它构建的应用可在这三个操作系统上面运行。

    15 引用 • 136 回帖 • 1 关注
  • 微服务

    微服务架构是一种架构模式,它提倡将单一应用划分成一组小的服务。服务之间互相协调,互相配合,为用户提供最终价值。每个服务运行在独立的进程中。服务于服务之间才用轻量级的通信机制互相沟通。每个服务都围绕着具体业务构建,能够被独立的部署。

    96 引用 • 155 回帖
  • Kubernetes

    Kubernetes 是 Google 开源的一个容器编排引擎,它支持自动化部署、大规模可伸缩、应用容器化管理。

    108 引用 • 54 回帖
  • Oracle

    Oracle(甲骨文)公司,全称甲骨文股份有限公司(甲骨文软件系统有限公司),是全球最大的企业级软件公司,总部位于美国加利福尼亚州的红木滩。1989 年正式进入中国市场。2013 年,甲骨文已超越 IBM,成为继 Microsoft 后全球第二大软件公司。

    103 引用 • 126 回帖 • 454 关注