linux增量备份命令 linux 文件增量备份

linux下如何实现增量备份？

服务器需求：

创新互联公司主要从事成都网站建设、成都做网站、网页设计、企业做网站、公司建网站等业务。立足成都服务广陵,10余年网站建设经验,价格优惠、服务专业,欢迎来电咨询建站服务:028-86922220

需要备份文件的服务器（服务器端）：192.168.10.2 （RHEL 5）

接收备份文件的服务器（客户端）：192.168.10.3 （RHEL 5）

实现功能：

通过rsync工具对turbomail邮件服务器的accounts目录和conf目录进行增量备份。

accounts目录：用于存储用户相关信息的目录

conf目录：用户配置文件存放目录

前提条件：

先将turbomail邮件系统安装好（服务器端与客户端操作一样）

安装过程如下：

1、挂载光驱：mount /dev/cdrom

2、将turbomail的安装包拷贝到跟目录下/

#cd /dev/cdrom

#cp turbomail_linux_x86_xxx.tgz

3、解压turbomail安装包

tar –zxvf turbomail_linux_x86_xxx.tgz

4、启动turbomail

#cd /turbomail

#./starttm.sh

#cd /turbomail/web/bin/

#./startup.sh 5、修改启动脚本/etc/rc.d/rc.local

使邮件服务器开机自动启动加入以下几行：#/turbomail/starttm.sh

#/turbomail/web/bin/startup.sh #/turbomail/safestart.sh

rsync的配置如下：

1.服务器端rsync的配置：使用系统自带的rsync工具，插入系统启动光盘，通过rpm安装rsync工具。

若采用采用源码包安装，上传安装包到服务器1）tar –zxvf rsyncrsync-2.6.9.tar.gz #解压2）cd rsyncrsync-2.6.9 3）./configure #默认配置，生成编译环境

4）make #编译

5）make install #安装完成，任何步骤有疑问输入echo $?查返回值，0表示成功，其他都为失败rsync 版本

2.4.6(可以从获得最新版本)

1）编辑/etc/rsyncd.conf文件，rsync的主要配置文件：

#[globale]

strict modes= yes

#check passwd file

port= 873 #rsync工具默认使用的端口

#default port

logfile= /var/log/rsyncd.log #日志文件存放路径pidfile= /var/run/rsyncd.pid #记录rsync运行时的进程ID

max connections= 4 #同上最大的链接数

#[modules] #同步模块的配置

[rsync]

uid= root #该选项指定当该模块传输文件时守护进程应该具有的uid

gid= root #该选项指定当该模块传输文件时守护进程应该具有的gid

ignore errors #忽略一些无关的错误信息

#要备份的目录

path= /turbomail/accounts #需要同步的目录

read only= no #是否设置以只读的方式运行

host allow= 192.168.10.3 #同步数据的客户端ip如有多个客户端，以“，”隔开即可

auth users= zhouhw #同步用的用户名

secrets file= /etc/rsyncd.scrt #同步的密码认证文件

[test]

uid= root #该选项指定当该模块传输文件时守护进程应该具有的uid

gid= root #该选项指定当该模块传输文件时守护进程应该具有的gid

ignore errors #忽略一些无关的错误信息

#要备份的目录

path= /turbomail/conf #需要同步的目录

read only= no #是否设置以只读的方式运行

host allow= 192.168.10.3 #同步数据的客户端ip如有多个客户端，以“，”隔开即可

auth users= zhouhw #同步用的用户名

secrets file= /etc/rsyncd.scrt #同步的密码认证文件2）编辑/etc/rsyncd.scrt文件，密码认证文件

zhouhw：123456

该更权限为600：chmod 600 /etc/rsyncd.scrt 3) 运行rsync --daemon,并在/etc/rc.d/rc.local加入此语句,开机自动启动。

备注：rsync默认端口873，若安装了iptables，如需改动启动时启动rsync –port 873,请在iptables 中开放该端口，语句如下：

iptables -I INPUT -p tcp --dport 873 -j ACCEPT

4）编辑/etc/xinetd.d/rsync

rsync服务的监听由xinet来统一分配:

service rsync

{

disable = no #将此项改为no

socket_typ

e = stream

wait = no

user = root

server = /usr/bin/rsync

server_args = --daemon

log_on_failure += USERID

}

重启xinetd以启动rsync服务

service xinetd restart

5)查看rsync事故正常运行

输入命令：netstat -ant|grep :873若有显示以下一条语句，则说明rsync服务已经正常启动了。

tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 2.客户端的配置：使用系统自带的rsync工具，插入系统启动光盘，通过rpm安装rsync工具。

1）编辑/etc/rsyncd.scrt文件，密码认证文件

zhouhw：123456

该更权限为600：chmod 600 /etc/rsyncd.scrt 2）编辑脚本vi /root/scrpit/rsync.sh并加入开机自动启动。

#!/bin/sh /usr/bin/rsync -vazu --progress --delete

zhouhw@192.168.10.2::rsync /turbomail --password-file=/etc/rsyncd.scrt

zhouhw@192.168.10.2::test /turbomail

--password-file=/etc/rsyncd.scrt修改权限：chmod u+x

/root/scrpit/rsync.sh执行./rsync.sh 同步数据。

3）编辑/etc/crontab文件，定义为每小时30分钟执行一次数据同步。

vi /etc/crontab

# run-parts

01 * * * * root run-parts /etc/cron.hourly 02 4 * * * root

run-parts /etc/cron.daily 22 4 * * 0 root run-parts /etc/cron.weekly 42 4

1 * * root run-parts /etc/cron.monthly 30 * * * * root

/root/scrpit/rsync.sh客户端的配置到此就可以了，服务器与客户端的数据也会在每小时的第30分钟执行一次。

客户端同步命令详解：

v, --verbose 详细模式输出-q, --quiet 精简输出模式-c, --checksum

打开校验开关，强制对文件传输进行校验-a, --archive 归档模式，表示以递归方式传输文件，并保持所有文件属性，等于-rlptgoD

-r, --recursive 对子目录以递归模式处理-R, --relative 使用相对路径信息-b, --backup

创建备份，也就是对于目的已经存在有同样的文件名时，将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。

--backup-dir 将备份文件(如~filename)存放在在目录下。

-suffix=SUFFIX定义备份文件前缀

-u, --update 仅仅进行更新，也就是跳过所有已经存在于DST，并且文件时间晚于要备份的文件。(不覆盖更新的文件) -l, --links 保留软链结-L, --copy-links 想对待常规文件一样处理软链结

--copy-unsafe-links仅仅拷贝指向SRC路径目录树以外的链结

--safe-links忽略指向SRC路径目录树以外的链结

-H, --hard-links 保留硬链结-p, --perms 保持文件权限-o, --owner 保持文件属主信息-g,

--group 保持文件属组信息-D, --devices 保持设备文件信息-t, --times 保持文件时间信息-S, --sparse

对稀疏文件进行特殊处理以节省DST的空间-n, --dry-run现实哪些文件将被传输-W, --whole-file

拷贝文件，不进行增量检测-x, --one-file-system 不要跨越文件系统边界-B, --block-size=SIZE

检验算法使用的块尺寸，默认是700字节-e, --rsh=COMMAND 指定替代rsh的shell程序

--rsync-path=PATH指定远程服务器上的rsync命令所在路径信息

-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件，用来排除那些不希望传输的文件--existing 仅仅更新那些已经存在于DST的文件，而不备份那些新创建的文件

--delete删除那些DST中SRC没有的文件

--delete-excluded同样删除接收端那些被该选项指定排除的文件

--delete-after传输结束以后再删除

--ignore-errors及时出现IO错误也进行删除

--max-delete=NUM最多删除NUM个文件

--partial 保留那些因故没有完全传输的文件，以是加快随后的再次传输--force 强制删除目录，即使不为空

--numeric-ids不将数字的用户和组ID匹配为用户名和组名

--timeout=TIME IP超时时间，单位为秒-I, --ignore-times

不跳过那些有同样的时间和长度的文件--size-only

当决定是否要备份文件时，仅仅察看文件大小而不考虑文件时间--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口，默认为0

-T --temp-dir=DIR在DIR中创建临时文件

--compare-dest=DIR同样比较DIR中的文件来决定是否需要备份

-P等同于--partial

--progress显示备份过程

-z, --compress 对备份的文件在传输时进行压缩处理

--exclude=PATTERN指定排除不需要传输的文件模式

--include=PATTERN指定不排除而需要传输的文件模式

--exclude-from=FILE排除F

ILE中指定模式的文件

--include-from=FILE不排除FILE指定模式匹配的文件

--version打印版本信息

--address绑定到特定的地址

--config=FILE 指定其他的配置文件，不使用默认的rsyncd.conf文件

--port=PORT指定其他的rsync服务端口

--blocking-io对远程shell使用阻塞IO

-stats给出某些文件的传输状态

--progress在传输时现实传输过程

--log-format=formAT指定日志文件格式

--password-file=FILE从FILE中得到密码

--bwlimit=KBPS 限制I/O带宽，KBytes per second -h, --help 显示帮助信息

Linux下数据备份命令scp、rsync和后台运行

scp和rsync 均可实现文件的复制，但相比较，scp占用系统资源较小，rsync速度较快。当小文件众多时，rsync会导致硬盘I/O非常高，而scp基本不影响系统正常使用。可根据需要这俩选其一实现文件复制。

scp 是secure copy的缩写，scp是Linux系统下基于ssh登录进行安全的远程文件拷贝命令。

可以实现本地文件复制到远程服务器，也可以将远程文件复制到本地。

rsync 是remote sync的缩写。使用rsync备份数据时，不会直接覆盖以前的数据（如果数据已经存在），而是先判断已存在的数据和新数据的差异（默认规则是文件大小或修改时间有差异），只有数据不相同时才会把不相同的部分覆盖。在仅作增量数据的copy时比scp灵活。

一般CentOS默认安装rsync，若使用 rsync -v 提示找不到命令，可使用 yum install -y rsync 安装。

单个冒号和双冒号的区别 ：使用rsync在远程传输数据前，是需要进行登陆认证的，这个过程可使用ssh协议也可以使用rsync协议完成。单冒号（:）使用的是ssh协议；双冒号（::）使用的是rsync协议。

默认情况下，rsync只确保源文件的所有内容（明确排除的文件除外）都复制到目标目录。它不会使两个目录保持不同，并且不会删除文件。如果要使目标目录成为源目录的镜像副本，则使用--delete选项。可删除只存在目标目录，不存在于源目录的文件。

增量备份算是一个经常使用的场景了。两台服务器之间进行文件定期备份，无需所有文件都copy一遍，仅复制有变动的文件。

具体做法是，第一次同步是全量备份，所有文件在基准目录里面同步一份。以后每一次同步都是增量备份，只同步源目录与基准目录之间有变动的部分，将这部分保存在一个新的目标目录。这个新的目标目录之中，也是包含所有文件，但实际上，只有那些变动过的文件是存在于该目录，其他没有变动的文件都是指向基准目录文件的硬链接。

--link-dest 参数用来指定同步时的基准目录。

上面命令中， --link-dest 参数指定基准目录 /compare/path ，然后源目录 /source/path 跟基准目录进行比较，找出变动的文件，将它们拷贝到目标目录 /target/path 。那些没变动的文件则会生成硬链接。这个命令的第一次备份时是全量备份，后面就都是增量备份了。

一般服务器之间复制文件都比较大，为防止误操作，最好在后台运行。但因为需要和远程服务器之间的ssh通讯多是需要密码的，所以不能直接使用nohup 放置于后台。无论是scp还是rsync都可操作如下：

后台和前台任务的切换

scp不支持断点续传，挂起scp进程可能导致数据缺失。倾向于使用rsync。

如果有其他任务需要使用nohup后台运行，但执行时却忘记了使用nohup，也可参照此方法进行设置。

参考：1. Linux之scp命令及后台运行scp

(十六)Linux文件备份

1.Linux系统需要备份的数据

/root/目录：

/home/目录：

/var/spool/mail/目录：

/etc/目录：

其他目录：

数据备份的原则： 不要把鸡蛋放在同一个篮子里

2.安装服务的数据

apache需要备份的数据

配置文件

网页主目录

日志文件

mysql需要备份的数据

源码包安装的mysql：/usr/local/mysqld/data/

RPM包安装的mysql：/var/lib/mysql/

3.备份策略

完全备份： 完全备份就是指把所有需要备份的数据全部备份，当然完全备份可以备份整块硬盘，整个分区或某个具体的记录(需要更大的硬盘空间和时间)

增量备份： 第一天完全备份，第二天备份当天新增数据，第三天备份当天数据，即每次都是备份新增数据，每次备份后数据要进行压缩(需要较小的硬盘空间恢复麻烦)

差异备份： 第一天完全备份，第二天备份当天新增数据，第三天备份相比原始备份新增数据，即每次都是备份与原始数据相比的新增数据(比完全备份需要的空间小一点，比增量备份恢复容易一点)

1.dump命令

dump [选项] 备份之后的文件名 原文件或目录

选项

-level                    就是我们说的0-9十个备份级别

-f 文件名              指定备份之后的文件名

-u                          备份成功之后，把备份时间记录在/etc/dumpdates文件

-v                          显示备份过程中更多的输出信息

-j                          调用bzib库压缩备份文件，其实就是把备份文件压缩为.bz2格式

-W                        显示允许被dump的分区的备份等级及备份时间

备份分区实例

dump -0uj -f /root/boot.bak.bz2 /boot/        备份命令，先执行一次完全备份，并压缩和更新备份时间

cat /etc/dumpdates                查看备份时间文件

cp install.log /boot/                复制日志文件到boot分区

dump -luj -f /root/boot.bak1.bz2              增量备份/boot分区，并压缩

dump -W                  查询分区的备份时间及备份级别的

备份文件或目录实例

dump -0j /root/etc.dump.bz2 /etc/        完全备份/etc/目录，只能使用0级别进行完全备份，而不再支持增量备份

注意： dump只能针对分区做增量备份，对文件或目录不能进行增量备份

2.restore命令

restore [模式选项] [选项]

模式选项：restore命令常用的模式有一下四种，这四个模式不能混用

-C            比较备份数据和实际数据的变化

-i             进入交互模式，手工选择需要恢复的文件

-t             查看模式，用于查看备份文件中拥有哪些数据

-r             还原模式，用于数据还原

选项

-f            指定备份文件的文件名

比较备份数据和实际数据的变化

mv /boot/vmlinuz-2.3.32--279.el6.i686 /boot/vmlinuz-2.6.32-279.el6.i686.bak

把boot目录中内核镜像文件改个名字

restore -C -f /root/boot.bak.bz2

restore发现内核镜像文件丢失

查看模式

restore -t -f boot.bak.bz2

还原模式

还原boot.bak.bz2分区备份

mkdir boot.test

cd boot.test/

先还原完全备份的数据

restore -r -f /root/boot.bak.bz2

再恢复增量备份的数据

restore -r -f /root/boot.bak1.bz2

还原/etc/目录的备份etc.dump.bz2

restore -r -f etc.dump.bz2

还原etc.dump.bz2备份

如何使用linux下的差异和增量备份

这是我正在使用的一段备份脚本 mybackup.sh

在redhat Linux 7.2 下运行正常

mybackup.sh

代码:

#!/bin/sh

umount /mnt/bak

mount /dev/sdb1 /mnt/bak

if [ `date +%d` = '01' ] #每月1号进行完全备份

then

bakdir="/mnt/bak/daybak/month/"`date +%m%d`

zl="" #进行完全备份

else

bakdir="/mnt/bak/daybak/"`date +%d`

zl="-N "`date +'%Y-%m-01 00:00:01'`; #差异备份

#zl="-N "`date -d '-1 day' +'%Y-%m-%d 00:00:01'` #日增量备份

fi

tmpbakdir=${bakdir}tmp

rm -rf ${tmpbakdir}

mkdir ${tmpbakdir}

tar "${zl}" -czf ${tmpbakdir}/ /var/www/html

tar "${zl}" -czf ${tmpbakdir}/etc.tgz /etc

tar "${zl}" -czf ${tmpbakdir}/mysql.tgz /var/lib/mysql

tar "${zl}" -czf ${tmpbakdir}/home.tgz /home

tar "${zl}" -czf ${tmpbakdir}/name.tgz /var/name

rm -rf $bakdir

mv $tmpbakdir $bakdir

umount /mnt/bak

把mybackup.sh 放到 /etc/cron.daly 中即实现可月循环 差异/增量 备份

为方便恢复数据我使用了差异备份,如果想节约空间可以使用日总量备份,不过那样恢复数据时刻就要麻烦点了,另外你也可以很容易把上面的脚本改为周循环

事项增量备份的另外方法是利用find命令，

例如只备份一天前修改过的文件

代码:

find /var/www -type f -mtime -1 -print/tmp/filelist.txt