文档章节

利用ceph-deploy在ubuntu server14.04上部署ceph并进行其它配置

加油2018
 加油2018
发布于 2014/11/11 11:19
字数 811
阅读 4430
收藏 28

1. 环境与说明

在ubuntu14.04 server上部署ceph-0.87;设置rbdmap自动挂载/卸载rbd块设备;利用带rbd支持的tgt导出iscsi的rbd块。

2. 安装ceph

1)配置hostname与无密码登录

root@mon0:/etc/ceph# cat /etc/hosts
127.0.0.1	localhost
192.168.108.4	  osd2.osd2	osd2
192.168.108.3   osd1.osd1	osd1
192.168.108.2   mon0.mon0	mon0
#示例如下
ssh-keygen
ssh-copy-id -i /root/.ssh/id_rsa.pub osd1

2)安装ceph-deploy

wget -q -O- 'https://ceph.com/git/?p=ceph.git;a=blob_plain;f=keys/release.asc' | sudo apt-key add -
echo deb http://ceph.com/debian-dumpling/ $(lsb_release -sc) main | sudo tee /etc/apt/sources.list.d/ceph.list
apt-get update
apt-get install ceph-deploy

3)安装ceph

ceph-deploy new mon0 osd1 osd2
ceph-deploy install --release giant mon0 osd1 osd2
ceph-deploy mon create mon0 osd1 osd2
ceph-deploy gatherkeys mon0 osd1 osd2
#需要先创建osd盘对应的挂载目录/cephmp1、/cephmp2,并将osd盘挂载到这些目录上
ceph-deploy osd prepare mon0:/cephmp1:/dev/sdf1 mon0:/cephmp2:/dev/sdf2 osd1:/cephmp1:/dev/sdf1 osd1:/cephmp2:/dev/sdf2 osd2:/cephmp1:/dev/sdf1 osd2:/cephmp2:/dev/sdf2
ceph-deploy osd activate mon0:/cephmp1:/dev/sdf1 mon0:/cephmp2:/dev/sdf2 osd1:/cephmp1:/dev/sdf1 osd1:/cephmp2:/dev/sdf2 osd2:/cephmp1:/dev/sdf1 osd2:/cephmp2:/dev/sdf2
ceph-deploy mds create mon0 osd1 osd2
安装好后,可以按需要修改/etc/ceph/ceph.conf文件,然后利用ceph-deploy --overwrite-conf config push osd1 osd2命令将修改的配置文件push到其它主机上。然后利用如下命令重启:
restart ceph-all

这里遇到的问题是虽然修改了/etc/apt/sources.list.d/ceph.list,但ceph-deploy会去修改这个文件,并配置成firefly,所以安装的是0.80.7。安装完成后,修改ceph.list文件:

root@mon0:/etc/ceph# cat /etc/apt/sources.list.d/ceph.list 
deb http://ceph.com/debian-giant/ trusty main
修改成giant版本后:
apt-get update
apt-get upgrade ceph
restart ceph-all

这样就将ceph升级到giant 0.87了。

3. 配置rbdmap

创建rbd块设备并rbd map后,如果不及时rbd unmap,关机的时候系统会hung在umount此rbd设备上。所以配置rbdmap是必须的。首先下载并设置开机启动rbdmap

$ sudo wget https://raw.github.com/ceph/ceph/a4ddf704868832e119d7949e96fe35ab1920f06a/src/init-rbdmap -O /etc/init.d/rbdmap
$ sudo chmod +x /etc/init.d/rbdmap
$ sudo update-rc.d rbdmap defaults
然后创建一个rbd块设备,并利用rbd map挂载此设备,然后mkfs进行格式化,结果如下:
root@mon0:/etc/ceph# rbd ls iscsi
iscsi-rbd
root@mon0:/etc/ceph# rbd showmapped
id pool  image     snap device    
1  iscsi iscsi-rbd -    /dev/rbd1 
mkfs.xfs /dev/rbd1
修改/etc/init.d/rbdmap,将/etc/rbdmap修改为你的rbdmap的实际路径;然后将挂载信息写入/etc/ceph/rbdmap(我的rbdmap路径):
root@mon0:/etc/ceph# cat /etc/ceph/rbdmap
# RbdDevice		Parameters
#poolname/imagename	id=client,keyring=/etc/ceph/ceph.client.keyring
iscsi/iscsi-rbd
因为我禁用了cephx,所以不必配置keyring了。

这样就可以手动控制、并且开关机可以自动挂载和卸载rbd块设备了。

4. 配置支持rbd导出的iscsi

安装tgt,并检查是否支持rbd

root@mon0:/etc/ceph# apt-get install tgt
root@mon0:/etc/ceph# tgtadm --lld iscsi --op show --mode system | grep rbd
    rbd (bsoflags sync:direct)
创建一个rbd块设备并map和格式化;然后修改/etc/tgt/targets.conf:
root@mon0:/etc/ceph# cat /etc/tgt/targets.conf 
# Empty targets configuration file -- please see the package
# documentation directory for an example.
#
# You can drop individual config snippets into /etc/tgt/conf.d
include /etc/tgt/conf.d/*.conf
<target iqn.2014-11.rbdstore.com:iscsi>
    driver iscsi
    bs-type rbd
    backing-store iscsi/iscsi-rbd  # Format is <iscsi-pool>/<iscsi-rbd-image>
</target>


service tgt reload


总结:在ubuntu上还是第一次折腾ceph,需要慢慢总结和适应。也希望搞过的童鞋不吝赐教。

© 著作权归作者所有

共有 人打赏支持
加油2018
粉丝 150
博文 276
码字总数 243077
作品 0
海淀
架构师
私信 提问
加载中

评论(16)

比翼_跳舞的小草
比翼_跳舞的小草

引用来自“Dearie-Bless-you”的评论

[osd1][DEBUG ] Fetched 3,410 kB in 32s (104 kB/s)
[osd1][DEBUG ] Reading package lists...
[osd1][WARNIN] W: The repository 'http://ceph.com/debian-dumpling xenial Release' does not have a Release file.
[osd1][WARNIN] E: Failed to fetch http://download.ceph.com/debian-dumpling/dists/xenial/main/binary-amd64/Packages 404 Not Found [IP: 173.236.253.173 80]
[osd1][WARNIN] E: Failed to fetch http://download.ceph.com/debian-dumpling/dists/xenial/main/binary-i386/Packages 404 Not Found [IP: 173.236.253.173 80]
[osd1][WARNIN] E: Some index files failed to download. They have been ignored, or old ones used instead.
[osd1][ERROR ] RuntimeError: command returned non-zero exit status: 100
[ceph_deploy][ERROR ] RuntimeError: Failed to execute command: env DEBIAN_FRONTEND=noninteractive DEBIAN_PRIORITY=critical apt-get --assume-yes -q update


这个是怎么回事啊?
我也遇到这个问题,在执行ceph-deploy install ceph-node-4 ceph-node-1 ceph-node-2 ceph-node-3时出现的BUG,不知楼主是怎么解决的?求指教
D
Dearie-Bless-you
[osd1][DEBUG ] Fetched 3,410 kB in 32s (104 kB/s)
[osd1][DEBUG ] Reading package lists...
[osd1][WARNIN] W: The repository 'http://ceph.com/debian-dumpling xenial Release' does not have a Release file.
[osd1][WARNIN] E: Failed to fetch http://download.ceph.com/debian-dumpling/dists/xenial/main/binary-amd64/Packages 404 Not Found [IP: 173.236.253.173 80]
[osd1][WARNIN] E: Failed to fetch http://download.ceph.com/debian-dumpling/dists/xenial/main/binary-i386/Packages 404 Not Found [IP: 173.236.253.173 80]
[osd1][WARNIN] E: Some index files failed to download. They have been ignored, or old ones used instead.
[osd1][ERROR ] RuntimeError: command returned non-zero exit status: 100
[ceph_deploy][ERROR ] RuntimeError: Failed to execute command: env DEBIAN_FRONTEND=noninteractive DEBIAN_PRIORITY=critical apt-get --assume-yes -q update


这个是怎么回事啊?
俊的天空
俊的天空
单机环境跑的?
加油2018
加油2018

引用来自“薛观文”的评论

请问你指的osd盘是不是/dev/sdf1和/dev/sdf2,是你另外加的盘么?
我这只有一块盘/dev/sda怎么办?

/dev/sdf盘是存放journal的盘,osd盘是/dev/sdc和/dev/sdd。只有一块盘的话,划出一个分区给osd。
薛观文
薛观文
请问你指的osd盘是不是/dev/sdf1和/dev/sdf2,是你另外加的盘么?
我这只有一块盘/dev/sda怎么办?
加油2018
加油2018

引用来自“薛观文”的评论

把这坑填平下吧。。83
已经加入了注释,多多交流:)
薛观文
薛观文
把这坑填平下吧。。83
加油2018
加油2018

引用来自“薛观文”的评论

楼主,你在执行osd prepare 命令执行需要手动创建cephmp1、cephmp2目录么?
不创建会报错
是的,然后把对应的osd盘挂载到这些目录。
薛观文
薛观文
楼主,你在执行osd prepare 命令执行需要手动创建cephmp1、cephmp2目录么?
不创建会报错
CzBiX
CzBiX

引用来自“迹墨”的评论

osd prepare 和 osd activate 可以合并:
$> ceph-deploy osd create mon0:/cephmp1:/dev/sdf1 mon0:/cephmp2:/dev/sdf2 osd1:/cephmp1:/dev/sdf1 osd1:/cephmp2:/dev/sdf2 osd2:/cephmp1:/dev/sde1 osd2:/cephmp2:/dev/sde2
我测试貌似不行, 必须要手动 activate, 不知道是不是因为低版本的原因.
请教如何在docker容器中挂载cephfs?

请问,目前我有一个ceph cluster(ubuntu server14.04,ceph0.87.1版本) ,另外我有一台客户机,上面安装的是ubuntu server14.04,我在客户机中利用镜像创建的容器中找不到ceph内核模块,事实...

shadowalker911
2015/03/24
231
0
ubuntu14_ceph部署(一)——预检与安装规划

测试规划: 节点名称 系统发行版 IP 地址 部署进程 系统盘 数据盘/日志盘 普通账户 ceph1 ubuntu14.04 eth0 192.168.89.10 外网 eth1 10.0.0.10 ceph集群网 1MON+1MDS+2OSD、Ceph 部署工具 ...

科技小能手
2017/11/12
0
0
OSChina 技术周刊第九期 —— 每周技术精选,值得一看!

每周技术抢先看,总有你想要的! 移动开发 【翻译】介绍 Visual Studio 的 Android 模拟器 【博客】手机腾讯网mt框架之mtwebapp示例解析。 【博客】《Android深入透析》之常用设计模式经验谈...

OSC编辑部
2014/11/16
4K
4
Ubuntu 14.04下Salt的使用及安装ceph

概述 本文介绍 Ubuntu 环境下使用 saltstack 。 环境 测试环境为 Ubuntu server 14.04 。 禁用 : 所有 Ubuntu 系统都禁用 selinux , iptables 。 5 个运行 Ubuntu server 14.04 x86_64 的虚拟...

加油2018
2014/07/16
0
0
ceph集群简单安装部署(Ubuntu14环境)

本次测试。为了快速地安装,所以把目录而非整个硬盘用于 OSD 守护进程。后面的 后面的测试还将会有使用硬盘来作为OSD数据盘 测试机规划 节点名称 IP 地址 部署进程 系统盘 数据盘 ceph1 eth0...

科技小能手
2017/11/12
0
0

没有更多内容

加载失败,请刷新页面

加载更多

源码分析 Mybatis 的 foreach 为什么会出现性能问题

背景 最近在做一个类似于综合报表之类的东西,需要查询所有的记录(数据库记录有限制),大概有1W条记录,该报表需要三个表的数据,也就是根据这 1W 个 ID 去执行查询三次数据库,其中,有一...

TSMYK
18分钟前
0
0
IC-CAD Methodology企业实战之openlava

在云计算解决安全问题并成为IC界主流运算平台之前,私有的服务器集群系统仍然是各大IC公司的计算资源平台首选。 现在主流的服务器集群管理系统包括lsf,openlava,SkyForm,三者都属于lsf一系...

李艳青1987
33分钟前
2
0
http response stream 字节流 接收与解码

在接收图片、音频、视频的时候,需要用到二进制流。 浏览器会发给客户端 字节Byte流,一串串的发过来_int8格式 -128~127(十进制),也就是8bit(位)。 客户端接收的时候,对接收到的字节收集,...

大灰狼wow
34分钟前
2
0
配置Tomcat监听80端口...

12月13日任务 16.4 配置Tomcat监听80端口 16.5/16.6/16.7 配置Tomcat虚拟主机 16.8 Tomcat日志 1.配置Tomcat监听80端口 示例一:自定义监听端口 vim /usr/local/tomcat/conf/server.xml 编辑...

hhpuppy
34分钟前
3
0
在ubuntu中配置java环境

先在官网下载一个jdk 进入root权限,避免之后出现创建文件失败或者修改文本失败的问题 sudo i 创建一个文件夹来放置jdk解压后的文件 mkdir 文件夹mv jdk1.9(你下载的jdk文件) 你创建 的文...

无极之岚
34分钟前
3
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部