文档章节

利用ceph-deploy在ubuntu server14.04上部署ceph并进行其它配置

加油2018
 加油2018
发布于 2014/11/11 11:19
字数 811
阅读 4379
收藏 28

1. 环境与说明

在ubuntu14.04 server上部署ceph-0.87;设置rbdmap自动挂载/卸载rbd块设备;利用带rbd支持的tgt导出iscsi的rbd块。

2. 安装ceph

1)配置hostname与无密码登录

root@mon0:/etc/ceph# cat /etc/hosts
127.0.0.1	localhost
192.168.108.4	  osd2.osd2	osd2
192.168.108.3   osd1.osd1	osd1
192.168.108.2   mon0.mon0	mon0
#示例如下
ssh-keygen
ssh-copy-id -i /root/.ssh/id_rsa.pub osd1

2)安装ceph-deploy

wget -q -O- 'https://ceph.com/git/?p=ceph.git;a=blob_plain;f=keys/release.asc' | sudo apt-key add -
echo deb http://ceph.com/debian-dumpling/ $(lsb_release -sc) main | sudo tee /etc/apt/sources.list.d/ceph.list
apt-get update
apt-get install ceph-deploy

3)安装ceph

ceph-deploy new mon0 osd1 osd2
ceph-deploy install --release giant mon0 osd1 osd2
ceph-deploy mon create mon0 osd1 osd2
ceph-deploy gatherkeys mon0 osd1 osd2
#需要先创建osd盘对应的挂载目录/cephmp1、/cephmp2,并将osd盘挂载到这些目录上
ceph-deploy osd prepare mon0:/cephmp1:/dev/sdf1 mon0:/cephmp2:/dev/sdf2 osd1:/cephmp1:/dev/sdf1 osd1:/cephmp2:/dev/sdf2 osd2:/cephmp1:/dev/sdf1 osd2:/cephmp2:/dev/sdf2
ceph-deploy osd activate mon0:/cephmp1:/dev/sdf1 mon0:/cephmp2:/dev/sdf2 osd1:/cephmp1:/dev/sdf1 osd1:/cephmp2:/dev/sdf2 osd2:/cephmp1:/dev/sdf1 osd2:/cephmp2:/dev/sdf2
ceph-deploy mds create mon0 osd1 osd2
安装好后,可以按需要修改/etc/ceph/ceph.conf文件,然后利用ceph-deploy --overwrite-conf config push osd1 osd2命令将修改的配置文件push到其它主机上。然后利用如下命令重启:
restart ceph-all

这里遇到的问题是虽然修改了/etc/apt/sources.list.d/ceph.list,但ceph-deploy会去修改这个文件,并配置成firefly,所以安装的是0.80.7。安装完成后,修改ceph.list文件:

root@mon0:/etc/ceph# cat /etc/apt/sources.list.d/ceph.list 
deb http://ceph.com/debian-giant/ trusty main
修改成giant版本后:
apt-get update
apt-get upgrade ceph
restart ceph-all

这样就将ceph升级到giant 0.87了。

3. 配置rbdmap

创建rbd块设备并rbd map后,如果不及时rbd unmap,关机的时候系统会hung在umount此rbd设备上。所以配置rbdmap是必须的。首先下载并设置开机启动rbdmap

$ sudo wget https://raw.github.com/ceph/ceph/a4ddf704868832e119d7949e96fe35ab1920f06a/src/init-rbdmap -O /etc/init.d/rbdmap
$ sudo chmod +x /etc/init.d/rbdmap
$ sudo update-rc.d rbdmap defaults
然后创建一个rbd块设备,并利用rbd map挂载此设备,然后mkfs进行格式化,结果如下:
root@mon0:/etc/ceph# rbd ls iscsi
iscsi-rbd
root@mon0:/etc/ceph# rbd showmapped
id pool  image     snap device    
1  iscsi iscsi-rbd -    /dev/rbd1 
mkfs.xfs /dev/rbd1
修改/etc/init.d/rbdmap,将/etc/rbdmap修改为你的rbdmap的实际路径;然后将挂载信息写入/etc/ceph/rbdmap(我的rbdmap路径):
root@mon0:/etc/ceph# cat /etc/ceph/rbdmap
# RbdDevice		Parameters
#poolname/imagename	id=client,keyring=/etc/ceph/ceph.client.keyring
iscsi/iscsi-rbd
因为我禁用了cephx,所以不必配置keyring了。

这样就可以手动控制、并且开关机可以自动挂载和卸载rbd块设备了。

4. 配置支持rbd导出的iscsi

安装tgt,并检查是否支持rbd

root@mon0:/etc/ceph# apt-get install tgt
root@mon0:/etc/ceph# tgtadm --lld iscsi --op show --mode system | grep rbd
    rbd (bsoflags sync:direct)
创建一个rbd块设备并map和格式化;然后修改/etc/tgt/targets.conf:
root@mon0:/etc/ceph# cat /etc/tgt/targets.conf 
# Empty targets configuration file -- please see the package
# documentation directory for an example.
#
# You can drop individual config snippets into /etc/tgt/conf.d
include /etc/tgt/conf.d/*.conf
<target iqn.2014-11.rbdstore.com:iscsi>
    driver iscsi
    bs-type rbd
    backing-store iscsi/iscsi-rbd  # Format is <iscsi-pool>/<iscsi-rbd-image>
</target>


service tgt reload


总结:在ubuntu上还是第一次折腾ceph,需要慢慢总结和适应。也希望搞过的童鞋不吝赐教。

© 著作权归作者所有

共有 人打赏支持
加油2018
粉丝 150
博文 276
码字总数 243077
作品 0
海淀
架构师
加载中

评论(16)

比翼_跳舞的小草
比翼_跳舞的小草

引用来自“Dearie-Bless-you”的评论

[osd1][DEBUG ] Fetched 3,410 kB in 32s (104 kB/s)
[osd1][DEBUG ] Reading package lists...
[osd1][WARNIN] W: The repository 'http://ceph.com/debian-dumpling xenial Release' does not have a Release file.
[osd1][WARNIN] E: Failed to fetch http://download.ceph.com/debian-dumpling/dists/xenial/main/binary-amd64/Packages 404 Not Found [IP: 173.236.253.173 80]
[osd1][WARNIN] E: Failed to fetch http://download.ceph.com/debian-dumpling/dists/xenial/main/binary-i386/Packages 404 Not Found [IP: 173.236.253.173 80]
[osd1][WARNIN] E: Some index files failed to download. They have been ignored, or old ones used instead.
[osd1][ERROR ] RuntimeError: command returned non-zero exit status: 100
[ceph_deploy][ERROR ] RuntimeError: Failed to execute command: env DEBIAN_FRONTEND=noninteractive DEBIAN_PRIORITY=critical apt-get --assume-yes -q update


这个是怎么回事啊?
我也遇到这个问题,在执行ceph-deploy install ceph-node-4 ceph-node-1 ceph-node-2 ceph-node-3时出现的BUG,不知楼主是怎么解决的?求指教
D
Dearie-Bless-you
[osd1][DEBUG ] Fetched 3,410 kB in 32s (104 kB/s)
[osd1][DEBUG ] Reading package lists...
[osd1][WARNIN] W: The repository 'http://ceph.com/debian-dumpling xenial Release' does not have a Release file.
[osd1][WARNIN] E: Failed to fetch http://download.ceph.com/debian-dumpling/dists/xenial/main/binary-amd64/Packages 404 Not Found [IP: 173.236.253.173 80]
[osd1][WARNIN] E: Failed to fetch http://download.ceph.com/debian-dumpling/dists/xenial/main/binary-i386/Packages 404 Not Found [IP: 173.236.253.173 80]
[osd1][WARNIN] E: Some index files failed to download. They have been ignored, or old ones used instead.
[osd1][ERROR ] RuntimeError: command returned non-zero exit status: 100
[ceph_deploy][ERROR ] RuntimeError: Failed to execute command: env DEBIAN_FRONTEND=noninteractive DEBIAN_PRIORITY=critical apt-get --assume-yes -q update


这个是怎么回事啊?
俊的天空
俊的天空
单机环境跑的?
加油2018
加油2018

引用来自“薛观文”的评论

请问你指的osd盘是不是/dev/sdf1和/dev/sdf2,是你另外加的盘么?
我这只有一块盘/dev/sda怎么办?

/dev/sdf盘是存放journal的盘,osd盘是/dev/sdc和/dev/sdd。只有一块盘的话,划出一个分区给osd。
薛观文
薛观文
请问你指的osd盘是不是/dev/sdf1和/dev/sdf2,是你另外加的盘么?
我这只有一块盘/dev/sda怎么办?
加油2018
加油2018

引用来自“薛观文”的评论

把这坑填平下吧。。83
已经加入了注释,多多交流:)
薛观文
薛观文
把这坑填平下吧。。83
加油2018
加油2018

引用来自“薛观文”的评论

楼主,你在执行osd prepare 命令执行需要手动创建cephmp1、cephmp2目录么?
不创建会报错
是的,然后把对应的osd盘挂载到这些目录。
薛观文
薛观文
楼主,你在执行osd prepare 命令执行需要手动创建cephmp1、cephmp2目录么?
不创建会报错
CzBiX
CzBiX

引用来自“迹墨”的评论

osd prepare 和 osd activate 可以合并:
$> ceph-deploy osd create mon0:/cephmp1:/dev/sdf1 mon0:/cephmp2:/dev/sdf2 osd1:/cephmp1:/dev/sdf1 osd1:/cephmp2:/dev/sdf2 osd2:/cephmp1:/dev/sde1 osd2:/cephmp2:/dev/sde2
我测试貌似不行, 必须要手动 activate, 不知道是不是因为低版本的原因.
请教如何在docker容器中挂载cephfs?

请问,目前我有一个ceph cluster(ubuntu server14.04,ceph0.87.1版本) ,另外我有一台客户机,上面安装的是ubuntu server14.04,我在客户机中利用镜像创建的容器中找不到ceph内核模块,事实...

shadowalker911
2015/03/24
131
0
OSChina 技术周刊第九期 —— 每周技术精选,值得一看!

每周技术抢先看,总有你想要的! 移动开发 【翻译】介绍 Visual Studio 的 Android 模拟器 【博客】手机腾讯网mt框架之mtwebapp示例解析。 【博客】《Android深入透析》之常用设计模式经验谈...

OSC编辑部
2014/11/16
3.8K
4
ubuntu14_ceph部署(一)——预检与安装规划

测试规划: 节点名称 系统发行版 IP 地址 部署进程 系统盘 数据盘/日志盘 普通账户 ceph1 ubuntu14.04 eth0 192.168.89.10 外网 eth1 10.0.0.10 ceph集群网 1MON+1MDS+2OSD、Ceph 部署工具 ...

科技小能手
2017/11/12
0
0
ceph集群简单安装部署(Ubuntu14环境)

本次测试。为了快速地安装,所以把目录而非整个硬盘用于 OSD 守护进程。后面的 后面的测试还将会有使用硬盘来作为OSD数据盘 测试机规划 节点名称 IP 地址 部署进程 系统盘 数据盘 ceph1 eth0...

科技小能手
2017/11/12
0
0
ceph0.80安装及使用(CentOS7/ceph-deploy)

Ceph的主要目标是设计成基于POSIX的没有单点故障的分布式文件系统,使数据能容错和无缝的复制。详见:http://www.oschina.net/p/ceph 目前大部分部署ceph基本都是在Ubuntu,因为它的内核默认...

fkkeee
2014/09/22
0
4

没有更多内容

加载失败,请刷新页面

加载更多

IDEA、WebStorm最新永久激活方式

今天早上一大早打开IDEA发现激活已过期,遂开始寻找激活码。但是一直不成功,后来终于找到一种比较靠谱的激活方式。在此记录下来,以备不时之需。 目前网上现有的激活方式大概有这么三种 激活...

耒耒耒耒耒
25分钟前
0
0
理解数据库的4种隔离级别

本文转自:http://m.blog.csdn.net/article/details?id=51924963 数据库事务的隔离级别有4种,由低到高分别为Read uncommitted 、Read committed 、Repeatable read 、Serializable 。而且,...

初雪之音
54分钟前
1
0
主流的消息队列MQ比较,详解MQ的4类应用场景

目前主流的MQ 1.ZeroMQ 号称最快的消息队列系统,尤其针对大吞吐量的需求场景。 扩展性好,开发比较灵活,采用C语言实现,实际上只是一个socket库的重新封装,如果做为消息队列使用,需要开发...

游人未归
今天
4
0
React 服务器渲染原理解析与实践

网盘下载地址 React 服务器渲染原理解析与实践 本套课程,讲解了React中SSR技术的整个搭建思路及流程,完整的从原理上讲清楚了SSR的概念,重点在于讲解编写SSR框架遇到的各种知识点,以及细节...

qq__2304636824
今天
6
0
Jenkins使用

clean install -Dmaven.test.skip=true 系统设置 全局工具配置 其他的配置类似 构建项目配置

1713716445
今天
2
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部