ASM 翻译系列第三十八弹:ASM数据清理
原作者:Bane Radulovic
译者: 魏兴华
审核: 魏兴华
DBGeeK社区联合出品
原文链接:http://asmsupportguy.blogspot.sg/2015/12/asm-data-scrubbing.html
根据维基百科, 数据清理(data scrubbing)的定义是“一种数据纠错技术,利用后台任务周期性的扫描内存或存储的错误,在检测到错误后利用数据的多余副本来对数据进行纠正,数据清理可以减少数据错误不断累计的可能性,进而降低由数据错误带来的风险”。
数据清理(disk scrubbing)是Oracle 12C ASM出现的新功能, Oracle ASM 12C官方文档中写道,“ASM的磁盘清理通过校验不经常被读取的数据,提高了可用性和可靠性,对于磁盘组是normal 和 high redundancy冗余模式的,磁盘清理会检查数据的逻辑错误,在发现后利用镜像磁盘进行错误的自动修复,同时磁盘清理利用了磁盘组的冲平衡功能来降低IO资源的消耗。”
Setup
首先我们来构造一个实验,我的环境中有一个normal冗余的磁盘组DATA,有一点需要在这里指出来,本环境中的磁盘管理是通过12.1.0.2的ASM filter driver (AFD)来做的。
译者注:AFD,这是一个可以取代 ASMLIB 和 udev 设置的新功能,并且还增加了 I/O Filter 功能,该功能可以拒绝所有无效的 I/O 请求,最主要的作用是防止意外覆写 ASM 磁盘的底层盘。
[grid@dbserver]$ sqlplus / as sysasm
SQL*Plus: Release 12.1.0.2.0 Production on Tue Dec 8 14:08:22 2015
...
SQL> select NAME, TYPE, STATE from v$asm_diskgroup_stat;
NAME TYPE STATE
------------ ------ -----------
DATA NORMAL MOUNTED
SQL> select DISK_NUMBER, PATH from v$asm_disk_stat;
DISK_NUMBER PATH
----------- ----------------
0 AFD:ASMDISK01
2 AFD:ASMDISK03
4 AFD:ASMDISK05
1 AFD:ASMDISK02
6 AFD:ASMDISK07
5 AFD:ASMDISK06
3 AFD:ASMDISK04
7 rows selected.
SQL>
我在这个磁盘组中创建了一些数据文件:
[grid@dbserver]$ asmcmd ls +DATA/BR/DATAFILE
SYSTEM.261.887497785
USERS.262.8874978313
UNDOTBS1.269.887497831
SYSAUX.270.887497739
T1.305.897911209
T2.306.897911479
T3.307.897911659
Scrubbing a file
我们可以通过ASM的清理功能去对一个磁盘组、一个盘、一个文件做清理,下面的例子里,我们演示对一个ASM文件做清理。
为了清理一个文件,我们需要连接到ASM实例,然后运行ALTER DISKGROUP SCRUB FILE 命令:
SQL> alter diskgroup DATA scrub file '+DATA/BR/DATAFILE/t3.307.897911659' repair power high wait;
...
上面命令中repair关键字是可选的,如果没有输入repair关键字,那么检测到数据的错误信息后只会在相关日志文件中被报告,而不会被自动修复。
在ASM的alert日志中,我们可以看到磁盘清理过程中的输出信息,一旦清理清理完成,ASM日志中也会有相关信息输出:
Tue Dec 08 11:55:56 2015
SQL> alter diskgroup DATA scrub file '+DATA/BR/DATAFILE/t3.307.897911659' repair power high wait
Tue Dec 08 11:55:56 2015
NOTE: Waiting for scrubbing to finish
Tue Dec 08 11:56:43 2015
NOTE: Scrubbing finished
Tue Dec 08 11:56:43 2015
SUCCESS: alter diskgroup DATA scrub file '+DATA/BR/DATAFILE/t3.307.897911659' repair power high wait
因为在我的环境中没有数据毁坏,因此在ASM的alert文件中,没有任何错误被检测到。
当ASM数据清理在运行过程中,可以看到有2个ASM进程在做实际的工作。
[grid@dbserver]$ ps -ef | grep asm_sc
grid 17902 1 0 11:27 ? 00:00:00 asm_scrb_+ASM
grid 24365 1 0 11:49 ? 00:00:01 asm_scc0_+ASM
...
SCRB-ASM做磁盘清理的master进程,主要负责协调磁盘的清理操作
SCCn-ASM做磁盘清理的slave进程,用来执行检查操作,可能的进程有SCC0-SCC9。
SCRn-ASM做磁盘清理的slave进程,主要用来对有错误的数据进行修复,可能的进程有SCR0-SCR9。
SCVn-ASM做磁盘清理的slave进程,主要用来执行确认操作,可能的进程有SCV0-SCV9。
Corrupted block found
我们下面来举一个具体的例子来,通过毁坏数据文件的一个数据块-假如是block 200,然后通过磁盘清理操作来观察ASM数据清理的检测、修复效果。首先通过脚本find_block.pl来定位到block 200在ASM磁盘上的2个copy。
译者注:find_block.pl脚本的相关内容请参照ASM系列的Find block in ASM篇获取详细信息
[grid@dbserver ]$ $ORACLE_HOME/perl/bin/perl find_block.pl +DATA/BR/DATAFILE/t3.307.897911659 200
dd if=/dev/sdo1 bs=8192 count=1 skip=1460552 of=block_200.dd
dd if=/dev/sdd1 bs=8192 count=1 skip=1462088 of=block_200.dd
然后我使用dd命令抽取这两个block。
[root@dbserver]# dd if=/dev/sdo1 bs=8192 count=1 skip=1460552 of=block_200_primary.dd
[root@dbserver]# dd if=/dev/sdd1 bs=8192 count=1 skip=1462088 of=block_200_mirror.dd
将这两个块写入到文本文件后,使用操作系统的diff命令来校验一下这两个copy是否是一样的。
[root@dbserver]# diff block_200_primary.dd block_200_mirror.dd
[root@dbserver]#
如预期,由于没有数据毁坏,目前两个块的内容是完全一样的。
现在我们把块的一个副本毁坏,由于使用了ASM filter driver,在做毁坏操作的时候会有些麻烦,需要关闭ASM,卸载ASM filter driver,才能使用操作系统dd命令往ASM磁盘中写入命令:
首先创建一个文本文件,作为毁坏源:
[root@dbserver]# od -c block_200_mirror.dd > block_200_corrupt.txt
接着关闭数据库和ASM实例,卸载掉ASM filter driver,否则dd操作将不能执行。
[root@dbserver]# modprobe -r oracleafd
[root@dbserver]# lsmod | grep oracle
oracleacfs 3308260 0
oracleadvm 508030 0
oracleoks 506741 2 oracleacfs,oracleadvm
然后毁坏掉block 200的镜像copy。
[root@dbserver]# dd if=block_200_corrupt.txt of=/dev/sdd1 bs=8192 count=1 seek=1462088
1+0 records in
1+0 records out
8192 bytes (8.2 kB) copied, 0.00160027 s, 5.1 MB/s
读取上面步骤中写回的内容,通过操作系统diff命令确认两个块的内容是否有差异:
[root@dbserver]# dd if=/dev/sdd1 bs=8192 count=1 skip=1462088 of=block_200_corr.dd
1+0 records in
1+0 records out
8192 bytes (8.2 kB) copied, 0.00152298 s, 5.4 MB/s
[root@dbserver]# diff block_200_primary.dd block_200_corr.dd
Binary files block_200_primary.dd and block_200_corr.dd differ
[root@dbserver]#
如上面的输出,现在两个块的内容出现了不一样。
Scrub a file
下面到了本节的重点内容,我们重新加载ASM filter driver模块。
[root@dbserver]# insmod /lib/modules/.../oracleafd.ko
重启ASM实例,开始对上面测试用到的数据文件进行清理:
SQL> alter diskgroup DATA scrub file '+DATA/BR/DATAFILE/t3.307.897911659' wait;
...
观察ASM的alert 日志,数据清理过程中发现了毁坏的数据块:
Tue Dec 08 13:25:48 2015
SQL> alter diskgroup DATA scrub file '+DATA/BR/DATAFILE/t3.307.897911659' wait
Starting background process SCRB
Tue Dec 08 13:25:48 2015
SCRB started with pid=25, OS id=4585
Tue Dec 08 13:25:48 2015
NOTE: Waiting for scrubbing to finish
Tue Dec 08 13:25:49 2015
NOTE: Corrupted block 200 found in file +DATA/BR/DATAFILE/t3.307.897911659
Tue Dec 08 13:25:50 2015
NOTE: Corrupted block 200 found in file +DATA/BR/DATAFILE/t3.307.897911659
Tue Dec 08 13:26:39 2015
NOTE: Scrubbing finished
Tue Dec 08 13:26:39 2015
SUCCESS: alter diskgroup DATA scrub file '+DATA/BR/DATAFILE/t3.307.897911659' wait
后台进程的dump文件目录中也发现新产生了一些trace文件:
[grid@dbserver]$ ls -lrt | tail
-rw-r-----. 1 grid oinstall 36887 Dec 8 13:25 +ASM_scc0_4587.trc
-rw-r-----. 1 grid oinstall 36967 Dec 8 13:25 +ASM_scv0_4592.trc
-rw-r-----. 1 grid oinstall 5088 Dec 8 13:25 +ASM_gmon_16705.trc
-rw-r-----. 1 grid oinstall 36965 Dec 8 13:25 +ASM_scv1_4599.trc
-rw-r-----. 1 grid oinstall 551218 Dec 8 13:26 alert_+ASM.log
如果我们更进一步查看SCC0进程的trace文件,会看到清理操作输出的详细报告:
[grid@dbserver]$ more ./+ASM_scc0_4587.trc
Trace file /u01/app/grid/diag/asm/+asm/+ASM/trace/+ASM_scc0_4587.trc
Oracle Database 12c Enterprise Edition Release 12.1.0.2.0 - 64bit Production
...
HARD VIOLATION(S) DETECTED!
CORRUPTED BLOCK INFORMATION:
memory address: 0x7f13531fb000
block size: 8192
block number: 200 [0xc8]
block offset in this write request of 1 block(s): 0
file type: datafile (type value: 2)
...
HARD check failed at block 200
还可以通过grep相关关键字快速的获取报告中重要关注的内容:
[grid@dbserver]$ egrep -i "corrupted|block number|failed" *sc*trc
+ASM_scc0_4587.trc:CORRUPTED BLOCK INFORMATION:
+ASM_scc0_4587.trc: block number: 200 [0xc8]
+ASM_scc0_4587.trc: Magic number Block size Block number Checksum Head-tail match
+ASM_scc0_4587.trc:FAILED CHECK(S):
+ASM_scc0_4587.trc: MAGIC NUMBER CHECK FAILED
+ASM_scc0_4587.trc: BLOCK SIZE CHECK FAILED
+ASM_scc0_4587.trc: BLOCK NUMBER CHECK FAILED
+ASM_scc0_4587.trc: HEAD-TAIL MATCH CHECK FAILED
+ASM_scc0_4587.trc:HARD check failed at block 200
+ASM_scv0_4592.trc:CORRUPTED BLOCK INFORMATION:
+ASM_scv0_4592.trc: block number: 200 [0xc8]
+ASM_scv0_4592.trc: Magic number Block size Block number Checksum Head-tail match
+ASM_scv0_4592.trc:FAILED CHECK(S):
+ASM_scv0_4592.trc: MAGIC NUMBER CHECK FAILED
+ASM_scv0_4592.trc: BLOCK SIZE CHECK FAILED
+ASM_scv0_4592.trc: BLOCK NUMBER CHECK FAILED
+ASM_scv0_4592.trc: HEAD-TAIL MATCH CHECK FAILED
+ASM_scv0_4592.trc:HARD check failed at block 200
+ASM_scv0_4592.trc:NOTE: Corrupted block 200 found in file +DATA/BR/DATAFILE/t3.307.897911659
+ASM_scv1_4599.trc:CORRUPTED BLOCK INFORMATION:
+ASM_scv1_4599.trc: block number: 200 [0xc8]
+ASM_scv1_4599.trc: Magic number Block size Block number Checksum Head-tail match
+ASM_scv1_4599.trc:FAILED CHECK(S):
+ASM_scv1_4599.trc: MAGIC NUMBER CHECK FAILED
+ASM_scv1_4599.trc: BLOCK SIZE CHECK FAILED
+ASM_scv1_4599.trc: BLOCK NUMBER CHECK FAILED
+ASM_scv1_4599.trc: HEAD-TAIL MATCH CHECK FAILED
+ASM_scv1_4599.trc:HARD check failed at block 200
+ASM_scv1_4599.trc:NOTE: Corrupted block 200 found in file +DATA/BR/DATAFILE/t3.307.897911659
[grid@dbserver]$
Fix the corruption
上面的操作没有添加repair关键字,因此毁坏并没有被自动修复,只是在相关跟踪日志中输出了清理操作发现到的坏块,这次我们在命令中增加repaire关键字,利用数据清理对文件进行自动修复:
SQL> alter diskgroup DATA scrub file '+DATA/BR/DATAFILE/t3.307.897911659' repair wait;
...
Tue Dec 08 13:35:02 2015
SQL> alter diskgroup DATA scrub file '+DATA/BR/DATAFILE/t3.307.897911659' repair wait
Tue Dec 08 13:35:02 2015
NOTE: Waiting for scrubbing to finish
Tue Dec 08 13:35:03 2015
NOTE: Corrupted block 200 found in file +DATA/BR/DATAFILE/t3.307.897911659
Tue Dec 08 13:35:04 2015
NOTE: Scrubbing block 200 in file 307.897911659 in slave
NOTE: Successfully scrubbed block 200 in file 307.897911659
Tue Dec 08 13:35:53 2015
NOTE: Scrubbing finished
Tue Dec 08 13:35:53 2015
SUCCESS: alter diskgroup DATA scrub file '+DATA/BR/DATAFILE/t3.307.897911659' repair wait
根据日志输出,清理操作顺利的完成了,同样我们再次通过对比两个块的内容来校验是否数据得到了修复。
[root@dbserver ~]# dd if=/dev/sdd1 bs=8192 count=1 skip=1462088 of=block_200_after_scrub_repair.dd
1+0 records in
1+0 records out
8192 bytes (8.2 kB) copied, 0.000856456 s, 9.6 MB/s
[root@dbserver]# diff block_200_primary.dd block_200_after_scrub_repair.dd
[root@dbserver]#
完美!数据块被成功的修复了。
Conclusion
ASM数据清理可以检测和自动修复有介质或逻辑损坏的数据块,它也可以纠正由于外部因素导致的坏块,比如我们上面例子里的,由非Oracle进程写入导致的损坏。
ASM 翻译系列第三十五弹:ASM 253号文件——ASM spfile
杭州沃趣科技股份有限公司创建于2012年(股票代码:839849),创始团队为原阿里巴巴数据库及系统运维团队核心骨干,凭借着多年的运维经验,为行业客户提供专业数据库、系统相关的服务和产品;专注为用户提供基于高性能、高可用、可扩展的开放数据库云平台解决方案的国产厂商。
沃趣科技的产品已广泛应用于证券、保险、医疗、广电传媒、银行、电信、能源电力、快递物流、公共事业、大型企业等,为这些行业用户持续提供行业解决方案及服务支持。
研发中心位于杭州,同时在北京、上海、广州、南京、兰州建立了分支机构,拥有辐射全国的销售和服务体系。
我们始终坚信,数据是驱动企业创新的源动力!坚持围绕企业数据库做好一件事
——让高性能触手可及!