登录 / 注册
IT168存储频道
IT168首页 > 存储 > 存储技术 > 正文

分布式存储ceph 对象存储配置zone同步

2018-07-05 17:24    开源中国 来源:开源中国  作者: tqyin  编辑: 谢涛

  一、架构:

  Ceph天生带两地三中心概念,我们要去的双活就是两个数据中心,Ceph两数据中心可以在一个集群也可以在不同的集群中。

  二,概念:

  zone:包含多个RGW实例的一个逻辑概念。zone不能跨集群。同一个zone的数据保存在同一组pool中。

  zonegroup:一个zonegroup如果包含1个或多个zone。如果一个zonegroup包含多个zone,必须指定 一个zone作为master zone,用来处理bucket和用户的创建。一个集群可以创建多个zonegroup,一个zonegroup也可以跨多个集群。

  realm:一个realm包含1个或多个zonegroup。如果realm包含多个zonegroup,必须指定一个zonegroup为master zonegroup, 用来处理系统操作。一个系统中可以包含多个realm,多个realm之间资源完全隔离。

  RGW多活方式是在同一zonegroup的多个zone之间进行,即同一zonegroup中多个zone之间的数据是完全一致的,用户可以通过任意zone读写同一份数据。 但是,对元数据的操作,比如创建桶、创建用户,仍然只能在master zone进行。对数据的操作,比如创建桶中的对象,访问对象等,可以在任意zone中 处理。

  三、在Cluster1集群上配置master zone

  1、创建realmradosgw-admin realm create --rgw-realm=earth --default

  2、创建master zonegroup

  先删除默认的zonegroup

  radosgw-admin zonegroup delete --rgw-zonegroup=default

  创建一个为china的zonegroup

  radosgw-admin zonegroup create --rgw-zonegroup=china --endpoints=ceph-1:7480 --master --default

  3、创建master zone

  先删除默认的zone

  adosgw-admin zone delete --rgw-zone=default

  创建一个为huabei的zone

  radosgw-admin zone create --rgw-zonegroup=china --rgw-zone=huabei --endpoints=ceph-1:7480 --default --master

  4、创建一个system账户用于和huadong zone同步

  radosgw-admin user create --uid="sync-user" --display-name="sync user" --system

  5、用创建system账户产生的access 和secret更新zone配置

  radosgw-admin zone modify --rgw-zone=huabei --access-key={access-key} --secret={secret}

  6、更新period

  radosgw-admin period update --commit

  7、配置ceph.conf

  [client.rgw.ceph-1]

      host = ceph-1

      rgw frontends = "civetweb port=7480"

      rgw_zone=huabei

  四、在Cluster2集群上配置slave zone

  1、从master zone拉取realm

  radosgw-admin realm pull --url=ceph-2:7480 --access-key={access-key} --secret={secret}

  注意:这里的access key 和secret是master zone上system 账户的access key和secret

  2、拉取period

  radosgw-admin period pull --url=ceph-2:7480 --access-key={access-key} --secret={secret}

  注意:这里的access key 和secret是master zone上system 账户的access key和secret

  3、创建slave zone

  radosgw-admin zone create --rgw-zonegroup=china --rgw-zone=huadong \

                       --access-key={system-key} --secret={secret} \

                       --endpoints=ceph-2:7480

  注意:这里的access key 和secret是master zone上system 账户的access key和secret

  4、更新period

  radosgw-admin period update --commit

  注意:如果出现认证错误,重启master zone的实例服务

  配置ceph.conf

  [client.rgw.ceph-2]

  host = ceph-2

  rgw frontends = "civetweb port=7480"

  rgw_zone=huadong

  五、验证zone之间数据同步

  1、在secondary zone节点执行

  radosgw-admin sync status

  2、在master zone节点上创建用户

radosgw-admin user create --uid="testuser" --display-name="First User"

  3、用s3客户端 创建桶,并put 对象

  注意: 在slave zone节点上也要创建相同的用户才会看到创建的桶,和上传的对象。

标签: 分布式 , 存储
  • IT168企业级IT168企业级
  • IT168文库IT168文库

扫一扫关注

行车视线文章推荐

首页 评论 返回顶部