问题背景lvmetad是操作系统上面的lvm的缓存服务，基本上所有的操作系统上面都有，我们使用的操作系统版本为
12345678[root@node232 ~]# lsb_release -aLSB Version: :core-4.1-amd64:core-4.1-noarchDistributor ID: CentOSDescription: CentOS Linux release 7.6.1810 (Core) Release: 7.6.1810Codename: Core[root@node232 ~]# uname -aLinux node232 4.14.113-1.el7.x86_64 #1 SMP Wed Sep 9 17:22:41 CST 2020 x86_64 x86_64 x86_64 GNU/Linux
lvm版本为
123[root@node232 ~]# rpm -qa|grep lvmlvm2-libs-2.02.180-8.el7.x86_64lvm2-2.02.180-8.el7.x86_64
如果环境为上面 ...
问题现象ceph -s命令无返回了，查看mon的日志输出内容如下
看到的现象是 failed to assign global_id
然后尝试预分配更多的 global_id
mon_globalid_prealloc=1111110000
这个地方调整后，只是延缓了id的无法分配，没有解决问题，这个地方并不是消息id的问题，而是mon此时出现了问题，无法去正常的回收和响应消息，从而耗尽了id，出现了上面的现象，出现问题以后，mon实际无法响应请求了
把mon的进程直接放到前台运行
12345/usr/bin/ceph-mon -f --cluster ceph --id MYMON1 --setuser ceph --setgroup cephtcmalloc: large alloc 1073741824 bytes == 0x5568d6ac6000 @ 0x7fb651ad24ef 0x7fb651af1bd6 0x556892b6c049 0x556892b6c08b 0x556892b6c940 0x7fb64f4e36f6 0x7fb64f4e7e66 ...
坏快的模拟操作1234[root@lab102 ~]# hdparm --yes-i-know-what-i-am-doing --make-bad-sector 5555 /dev/sdb/dev/sdb:Corrupting sector 5555 (WRITE_UNC_EXT as pseudo): succeeded
注意这个操作如果操作了后面记得恢复，不然留在磁盘上面忘记处理，后面就是坏快在那里的，这个是人为的注入一个坏块的操作的
检查坏快的情况（我的环境一个block = 2个sector）
12345678[root@lab102 ~]# badblocks -v -s /dev/sdb 3333Checking blocks 0 to 3333Checking for bad blocks (read-only test): 277629% done, 0:06 elapsed. (0/0/0 errors)277732% done, 0:08 elapsed. (1/0/0 errors)277835% done, 0:10 elapsed. (2/0/0 ...
问题描述在内网部署的https的时候，我们采用的是自签名的ssl证书，内网的这个证书是无法被客户端认证通过的，这个地方主要体现在下面几个现象可以看到
chrome下的表现
s3cmd下面的表现
s3browser下的表现
这些共同的表现就是无法建立信任的关系
这里我们实际要解决的问题就是，内网是可以绕过这个证书的检测的
不同客户端的处理s3cmd的处理1[root@lab103 ~]# s3cmd ls --no-check-certificate s3://mybucket/
s3browser的处理
可以看到官方在11.5.7版本开始考虑到这个问题了，可以忽略证书的认证，我们只是用到https传输即可
把这个选项勾选，也就是信任所有的证书，重启客户端
可以看到启用https，并且使用了最新的客户端，也是可以正常运行了，也就是证书的问题
通过自颁发证书来解决证书验证问题自颁发证书1yum install openssl openssl-devel -y
step1: 生成证书请求文件新建openssl.cnf，内容如下：
1234567891011121314151617 ...
问题现象在vmware的平台下的虚拟机里面配置了IPv6，然后测试的时候发现丢包严重，引起带宽非常低
问题Esxi虚拟机采用的是vmxnet3 driver，底层在处理IPv6的包的时候，额外加上了一些信息所以默认的1500的MTU无法处理完整的包，也就需要丢弃一些，然后造成了需要重传，带宽就低了
MTU调整为1515之后，问题消失，带宽恢复正常
这个只在IPv6使用的时候有这个问题，应该是跟这个驱动有关系，物理机下面没这个问题
调整MTU的方法在线调整1ifconfig ens160 mtu 1515
配置文件调整1MTU='1515'
重启网络服务
背景最近翻ceph的官方的博客，发现了一篇博客提到了一个ubuntu下面的编译参数引起的rocksdb的性能下降，这个地方应该是ceph官方代码的参数没生效
受影响的系统
P版本之前的ceph版本
操作系统是ubuntu的
某些ceph版本
这个要素比较多，所以运行的环境并不一定受到影响，那么我们看下，收到影响的版本是哪些,非ubuntu的系统可以忽略这个问题
我对15的版本比较熟，就以这个版本举例子
受到影响的版本这个版本是从ceph官方同步过来的版本
1https://mirrors.tuna.tsinghua.edu.cn/ceph/debian-15.2.17/pool/main/c/ceph/
不受影响的版本1https://launchpad.net/ubuntu/focal/+source/ceph
这个是ubuntu官方打包的版本
下载不同的版本源文件
123456789101112root@lab103:~# cat /etc/apt/sources.listdeb http://archive.ubuntu.com/ubuntu/ focal main res ...
系统管理
未读前言本篇记录一些常用的配置raid的命令
安装下载storcli管理软件
1wget https://docs.broadcom.com/docs-and-downloads/raid-controllers/raid-controllers-common-files/1.21.16_StorCLI.zip
常用操作查询控制器信息123456root@ubuntu:~# storcli show---------------------------------------------------------------------------------------------------Ctl Model Ports PDs DGs DNOpt VDs VNOpt BBU sPR DS EHS ASOs Hlth--------------------------------------------------------------------------------------------------- 0 I ...
需求bluestore_min_alloc_size可以修改ceph的osd的底层的最小分配单元，初始化的时候能够调整，这个修改后我们如何确认呢
查询记录大小的日志在bluestore日志里面，需要调整osd的bluestore日志级别
1debug_bluestore=10
调整好了以后重启osd，查看日志
12[root@lab103 ceph]# cat /var/log/ceph/ceph-osd.2.log |grep min_alloc_size|grep order2024-03-07T11:00:42.419+0800 7ff28b4a0bc0 10 bluestore(/var/lib/ceph/osd/ceph-2) _set_alloc_sizes min_alloc_size 0x1000 order 12 max_alloc_size 0x0 prefer_deferred_size 0x0 deferred_batch_ops 64
上面的order 12就是获取的值
这个值需要计算一下
12[root@lab103 local]# echo " ...
存储设备
未读需求默认启动drbd后，两个设备需要进行同步，而某些测试情况下，设备是空的，并不需要同步，都是空的就不需要同步了,但是系统自身是不会判断是否为空的，需要按下面的步骤处理一下
操作方法1、两台机器上面都执行初始化元数据
1drbdadm create-md <resource>
2、两台设备上面都执行启动
1drbdadm up <resource>
3、在备用节点上面执行清理操作
1drbdadm -- --clear-bitmap new-current-uuid <resource>
4、在主节点上面执行设置主的操作
1drbdadm primary <resource>
5、检查设备同步情况
1drbdadm status <resource>
上面的操作后，主备的设备就是同步状态了，在测试场景下，能够节约不少时间
查看连接的情况
12345[root@node152 drbd.d]# cat /sys/kernel/debug/drbd/resources/r0/connections/node153/0/proc ...
操作系统环境操作系统1234[root@lab102 ~]# cat /etc/redhat-releaseCentOS Linux release 7.7.1908 (Core)[root@lab102 ~]# uname -aLinux lab102 3.10.0-1062.el7.x86_64 #1 SMP Wed Aug 7 18:08:02 UTC 2019 x86_64 x86_64 x86_64 GNU/Linux
查看pci设备123[root@lab102 ~]# lspci |grep Eth|grep 8181:00.0 Ethernet controller: Intel Corporation Device 159b (rev 02)81:00.1 Ethernet controller: Intel Corporation Device 159b (rev 02)
更新pciid
1update-pciids
再次查看设备
123[root@lab102 ~]# lspci |grep Eth|grep 8181:00.0 Ethernet contr ...
