mysql怎么做数据快照 mysql快照恢复数据

总结MySQL建表、查询优化的一些实用小技巧

MySQL建表阶段是非常重要的一个环节，表结构的好坏、优劣直接影响着后续的管理维护，赶在明天上班前分享总结个人MySQL建表、MySQL查询优化积累的一些实用小技巧。

创新互联公司是一家专注于成都做网站、成都网站建设与策划设计,土默特右旗网站建设哪家好?创新互联公司做网站,专注于网站建设10余年,网设计领域的专业建站公司;建站业务涵盖:土默特右旗等地区。土默特右旗做网站价格咨询:028-86922220

技巧一、数据表冗余记录添加时间与更新时间

我们用到的很多数据表大多情况下都会有表记录的“添加时间(add_time)”，我建议大家再新增一个记录“更新时间(update_time)”字段，在我的工作里需要为市场部、运营部等建立各种报表，而很多报表里的数据都是需要到大记录表里去查询的，如果直接查询大表的话，查询速度相当慢。那么，我们的解决办法就是建立各种数据快照，数据快照都是通过脚本定时跑的。假如，哪一天原始数据表出现了问题，那么快照数据也会有问题，这个时候我们的快照脚本就得重新跑一份修复好了的数据，这样有了update_time更新时间这个字段，我们就能很快定位记录更新的时间。

技巧二、不要抛弃insert

ignore

into与replace

into

大家肯定写过一些脚本循环将记录插入到数据表，例如使用PHP脚本。如果期间的一条SQL插入失败，那么后续的插入将终止，你可以在脚本里绕过这个插入错误，一个好的办法是使用ignore关键字来屏蔽插入错误。如果，你的数据表里已经存在有将要插入的相同记录，那么这个时候就会产生插入报错，使用

insert

ignore

into将绕开这个错误，继续下一条记录的插入。

如果你的表结构设计了唯一索引的话，那么使用replace

into来更新你的数据表记录再好不过了，尤其是你在写一个脚本的时候，你就不需要在脚本里先查询数据表是否存在该条记录，如果存在，则更新；如果不存在则插入。你可以直接使用replace

into，它会自动到数据表检测，如果在唯一索引字段存在该值，则会先删除该条记录，然后再插入新记录；如果唯一索引字段不存在该值，则直接插入数据表，简单且非常实用。

技巧三、给你的表建立唯一索引

很多情况下建立表唯一索引，能给我们省下很多麻烦事，想上面说的replace

into就必须是有唯一索引，当然，很多人喜欢用到的自增主键ID尽管也是唯一索引，我建议是能在其他经常出现在where条件屁股后面的字段，并且值是唯一的话可以加个索引甚至唯一索引，查询速度将会提高很多。

说在最后：当然，insert

ignore

into与replace

into大家要根据自己的需求来确定，不一定就适合你现在的需求；我只是提示大家还有这么些个实用的小知识大家可以灵活运用到项目里边。

MySQL使用LVM快照实现备份

新建一个lvm磁盘，这里我建的lv为mydatalv，挂载到了/data下

[root@localhost

~]#

lvs

LV

VG

Attr

LSize

Pool

Origin

Data%

Meta%

Move

Log

Cpy%Sync

Convert

mydatalv

mydata

-wi-ao----

1.00g

[root@localhost

~]#

df

-h

文件系统

容量

已用

可用

已用%

挂载点

/dev/mapper/mydata-mydatalv

976M

2.6M

907M

1%

/data

将原数据库文件复制到/data目录下

[root@localhost

~]#

cp

-a

/var/lib/mysql

/data/

修改配置文件，将mysql数据库文件放在lvm盘中，二进制文件放在非lvm盘的/var/lib/mysql/目录下

[root@ns1

~]#

vim

/etc/my.cnf

[mysqld]

log_bin=/var/lib/mysql/mysql-bin

datadir=/data/mysql

[root@localhost

~]#

service

mariadb

restart

[root@localhost

~]#

ls

/data/mysql

aria_log.00000001

ibdata1

ib_logfile1

mysql-bin.000001

mysql-bin.000003

performance_schema

aria_log_control

ib_logfile0

mysql

mysql-bin.000002

mysql-bin.index

test

可以看到重启后数据库文件已存放在了/data/mysql目录中了

对mysql进行锁表备份

[root@localhost

~]#

mysql

-e

'flush

tables

with

read

lock;'

锁表

[root@localhost

~]#

mysql

-e

'flush

logs;'

对日志进行滚动，

[root@localhost

~]#

mysql

-e

'show

master

status;'

/root/back.$(date

+%F+%T)

[root@localhost

~]#

ls

back.2016-07-13+10:14:29

对lv创建快照

[root@localhost

~]#

lvcreate

-L

1G

-n

mysqlback

-p

r

-s

/dev/mydata/mydatalv

释放锁

[root@localhost

~]#

mysql

-e

'unlock

tables;'

在别的磁盘上创建备份目录，只读挂载快照后备份至备份目录

[root@localhost

~]#

mkdir

/myback

[root@localhost

~]#

mount

-r

/dev/mydata/mysqlback

/mnt

[root@localhost

~]#

cp

-a

/mnt/mysql

/myback

修改表内容，然后删除掉数据库文件内容即/data/mysql中的内容

[root@localhost

~]#

mysql

MariaDB

[hellodb]

use

hellodb;

MariaDB

[hellodb]

insert

into

classes

(class,numofstu)

values

('xxoo',39);

[root@localhost

~]#

rm

-rf

/data/*

修改配置文件中二进制日志和数据库文件的位置

[root@localhost

~]#

vim

/etc/my.cnf

[mysqld]

log_bin=/data/mysql/mysql-bin

datadir=/data/mysql

利用/myback/中的内容还原

[root@localhost

~]#

cp

-a

/myback/*

/data/

[root@localhost

~]#

service

mariadb

restart

利用二进制日志还原快照后的操作，由下面这个文件来查看快照执行时二进制日志的位置

[root@localhost

~]#

cat

back.2016-07-13+10\:14\:29

File

Position

Binlog_Do_DB

Binlog_Ignore_DB

mysql-bin.000014

245

将000014中245之后的操作做成sql文件，进行还原

[root@localhost

~]#

mysqlbinlog

--start-position=245

/var/lib/mysql/mysql-bin.000014

binlog.sql

[root@localhost

~]#

mysql

/root/binlog.sql

查看恢复情况

[root@localhost

~]#

mysql

MariaDB

[(none)]

use

hellodb;

MariaDB

[hellodb]

select

*

from

classes;

+---------+----------------+----------+

|

ClassID

|

Class

|

NumOfStu

|

+---------+----------------+----------+

|

1

|

Shaolin

Pai

|

10

|

|

2

|

Emei

Pai

|

7

|

|

3

|

QingCheng

Pai

|

11

|

|

4

|

Wudang

Pai

|

12

|

|

5

|

Riyue

Shenjiao

|

31

|

|

6

|

Lianshan

Pai

|

27

|

|

7

|

Ming

Jiao

|

27

|

|

8

|

Xiaoyao

Pai

|

15

|

|

9

|

xxoo

|

39

|

+---------+----------------+----------+

9

rows

in

set

(0.00

sec)

如何同步两个mysql数据库中所有的表

用数据库快照就能实现啊.

Oracle快照原理及实现总结

Oracle数据库的快照是一个表，它包含有对一个本地或远程数据库上一个或多个表或视图的查询的结果。对于中大型数据库，业务数据库里所有的数据同步到另外一个处理服务器上最佳的选择还是使用SnapShot方式，即快照的方式。

由于工作需要，今天需要将业务数据库里所有的数据同步到另外一个处理服务器上。在做方案的时候，想了很多方法，当然最快的办法还是使用物理热备的方式。

但是我个人认为如果对于中大型数据库(我们的数据库有300G左右)最佳的选择还是使用SnapShot方式，即快照的方式。

Oracle数据库的快照是一个表，它包含有对一个本地或远程数据库上一个或多个表或视图的查询的结果。也就是说快照根本的原理就是将本地或远程数据库上的一个查询结果保存在一个表中。

以下是我建立的Snapshot，目的是从业务数据库上将数据Copy到处理数据库上，是不同的两个服务器之间对数据copy。

第一步：在处理服务器上的Oracle终端，建立database link，业务数据库服务器SID为TEST

create database link TEST_DBLINK.US.ORACLE.COM

connect to AMICOS identified by AMICOS

using 'test';

第二步：在业务数据库上对应的表建立快照日志

Create snapshot log on A_Table;

第三步：建立Snapshot 快照名称为：Test_SnapShot

Create snapshot Test_SnapShot

REFRESH COMPLETE START WITH SYSDATE NEXT SYSDATE+1/24

as select * from A_Table@TEST_DBLINK

说明：REFRESH是刷新方法

刷新方式有：COMPLETE和FAST两种，而START WITH是说明开始执行的时间。

Next是下次执行的时间

而AS以后是构成快照的查询方法。

相关的方法：

更改快照

ALTER SNAPSHOT Test_SnapShot

REFRESH COMPLETE START WITH SYSDATE NEXT SYSDATE+1/2;

手动刷新快照 在命令界面执行：

EXEC DBMS_SNAPSHOT.REFRESH('Test_SnapShot ','C');

第一个参数是要刷新的快照名

第二个参数是刷新的方式，F----FAST, C---COMPLETE

查看快照最后刷新的日期

SELECT NAME,LAST_REFRESH

FROM ALL_SNAPSHOT_REFRESH_TIMES;

最后非常的方案：

1：为需要做Snapshot的表建立Snapshot日志

create snapshot log on t1 with rowid; 这里使用ROWID建立日记的参数

2：采用Fast的方式建立快照，使用rowid做为参考参数

create snapshot fb_test_b refresh fast with rowid start with sysdate next sysdate+1/1440 as select * from fb_test_b@my_dblink;

最好能按照rowid来建立快照。要不然就必须要为表建立Primary Key。

MySQL 数据库怎么同步

MySQL数据同步主要有三种方式:

1.利用MySQL自身的数据库同步功能

2.利用MySQL数据库的特性(数据库存在固顶目录,并且以文件形式存储),进行数据库目录同步以达到数据同步目的

3.利用专用的MySQL数据库同步软件

1.利用MySQL自身的数据库同步功能(下面参考自网上的文章,写的非常详细了)

MySQL从3.23.15版本以后提供数据库复制功能。利用该功能可以实现两个数据库同步，主从模式，互相备份模式的功能.

数据库同步复制功能的设置都在mysql的设置文件中体现。mysql的配置文件（一般是my.cnf），在unix环境下在/etc/mysql/my.cnf或者在mysql用户的home目录下的my.cnf。

windows环境中，如果c:根目录下有my.cnf文件则取该配置文件。当运行mysql的winmysqladmin.exe工具时候，该工具会把c:根目录下的my.cnf命名为mycnf.bak。并在winnt目录下创建my.ini。mysql服务器启动时候会读该配置文件。所以可以把my.cnf中的内容拷贝到my.ini文件中，用my.ini文件作为mysql服务器的配置文件。

设置方法：

设置范例环境：

操作系统：window2000professional

mysql：4.0.4-beta-max-nt-log

Aip:10.10.10.22

Bip:10.10.10.53

A:设置

1.增加一个用户最为同步的用户帐号：

GRANTFILEON*.*TObackup@'10.10.10.53'IDENTIFIEDBY‘1234’

2.增加一个数据库作为同步数据库：

createdatabasebackup

B:设置

1.增加一个用户最为同步的用户帐号：

GRANTFILEON*.*TObackup@'10.10.10.22'IDENTIFIEDBY‘1234’

2.增加一个数据库作为同步数据库：

createdatabasebackup

主从模式：A-B

A为master

修改Amysql的my.ini文件。在mysqld配置项中加入下面配置：

server-id=1

log-bin

#设置需要记录log可以设置log-bin=c:mysqlbakmysqllog设置日志文件的目录，

#其中mysqllog是日志文件的名称，mysql将建立不同扩展名，文件名为mysqllog的几个日志文件。

binlog-do-db=backup#指定需要日志的数据库

重起数据库服务。

用showmasterstatus命令看日志情况。

B为slave

修改Bmysql的my.ini文件。在mysqld配置项中加入下面配置：

server-id=2

master-host=10.10.10.22

master-user=backup#同步用户帐号

master-password=1234

master-port=3306

master-connect-retry=60预设重试间隔60秒

replicate-do-db=backup告诉slave只做backup数据库的更新

重起数据库

用showslavestatus看同步配置情况。

注意：由于设置了slave的配置信息，mysql在数据库目录下生成master.info

所以如有要修改相关slave的配置要先删除该文件。否则修改的配置不能生效。

双机互备模式。

如果在A加入slave设置，在B加入master设置，则可以做B-A的同步。

在A的配置文件中mysqld配置项加入以下设置：

master-host=10.10.10.53

master-user=backup

master-password=1234

replicate-do-db=backup

master-connect-retry=10

在B的配置文件中mysqld配置项加入以下设置：

log-bin=c:mysqllogmysqllog

binlog-do-db=backup

注意：当有错误产生时*.err日志文件。同步的线程退出，当纠正错误后要让同步机制进行工作，运行slavestart

重起AB机器，则可以实现双向的热备。

测试：

向B批量插入大数据量表AA（1872000）条

A数据库每秒钟可以更新2500条数据。

2.数据库目录同步,方法和文件同步一样,设置好需要同步的两个数据库目录就可以了!

缺点很明显,数据同步只能单向进行,可以作为备份方案

3.用专用的MySQL同步软件进行同步

这方面的软件有SQLBalance和MyReplicator,优点是方便直观,还有很多争强功能!

缺点和2一样,只能单项同步!

当然你也可以修改镜像网站的程序为提交数据到母数据库,读取则在当前镜像下的数据,不过,修改起来麻烦!普通用户修改也非常难!呵呵,大家了解一下就可以!给大家一个思路!有能力的朋友可以试试阿!

4.关于MySQL论坛的数据同步

由于数据来源的不可控制(不好表达),论坛数据是实时的,而且还要考虑来自镜像论坛的数据,如何实现镜像论坛与母论坛数据同步呢?

用1中介绍的MySQL自带的数据库同步功能互相备份模式就可以实现的!

不过,具体的应用我没有测试!稳定性不敢保证!

有能力的朋友推荐用下面这种思路来同步,相对来说减少点效率,但能减少发生的错误!

比如镜像论坛数据同步:

1.母论坛和镜像论坛的数据全写在母论坛数据库里,主从模式,读取只在本地读取,这个需要修改程序!

2.每次写数据,都同时提交到两个数据库中,安全,但是效率很差,也得修改程序!

MSSQL

MSSQL数据同步利用数据库复制技术实现数据同步更新(来自网络,也是非常完美的教程)

复制的概念

复制是将一组数据从一个数据源拷贝到多个数据源的技术，是将一份数据发布到多个存储站点上的有效方式。使用复制技术，用户可以将一份数据发布到多台服务器上，从而使不同的服务器用户都可以在权限的许可的范围内共享这份数据。复制技术可以确保分布在不同地点的数据自动同步更新，从而保证数据的一致性。

SQL复制的基本元素包括

出版服务器、订阅服务器、分发服务器、出版物、文章

SQL复制的工作原理

SQLSERVER主要采用出版物、订阅的方式来处理复制。源数据所在的服务器是出版服务器，负责发表数据。出版服务器把要发表的数据的所有改变情况的拷贝复制到分发服务器，分发服务器包含有一个分发数据库，可接收数据的所有改变，并保存这些改变，再把这些改变分发给订阅服务器

SQLSERVER复制技术类型

SQLSERVER提供了三种复制技术，分别是：

1、快照复制（呆会我们就使用这个）

2、事务复制

3、合并复制

只要把上面这些概念弄清楚了那么对复制也就有了一定的理解。接下来我们就一步一步来实现复制的步骤。

第一先来配置出版服务器

(1)选中指定[服务器]节点

(2)从[工具]下拉菜单的[复制]子菜单中选择[发布、订阅服务器和分发]命令

(3)系统弹出一个对话框点[下一步]然后看着提示一直操作到完成。

(4)当完成了出版服务器的设置以后系统会为该服务器的树形结构中添加一个复制监视器。同时也生成一个分发数据库(distribution)

第二创建出版物

(1)选中指定的服务器

(2)从[工具]菜单的[复制]子菜单中选择[创建和管理发布]命令。此时系统会弹出一个对话框

(3)选择要创建出版物的数据库，然后单击[创建发布]

(4)在[创建发布向导]的提示对话框中单击[下一步]系统就会弹出一个对话框。对话框上的内容是复制的三个类型。我们现在选第一个也就是默认的快照发布(其他两个大家可以去看看帮助)

(5)单击[下一步]系统要求指定可以订阅该发布的数据库服务器类型，SQLSERVER允许在不同的数据库如ORACLE或ACCESS之间进行数据复制。但是在这里我们选择运行"SQLSERVER2000"的数据库服务器

(6)单击[下一步]系统就弹出一个定义文章的对话框也就是选择要出版的表

(7)然后[下一步]直到操作完成。当完成出版物的创建后创建出版物的数据库也就变成了一个共享数据库。

第三设计订阅

(1)选中指定的订阅服务器

(2)从[工具]下拉菜单中选择[复制]子菜单的[请求订阅]

(3)按照单击[下一步]操作直到系统会提示检查SQLSERVER代理服务的运行状态，执行复制操作的前提条件是SQLSERVER代理服务必须已经启动。

(4)单击[完成]。完成订阅操作。

完成上面的步骤其实复制也就是成功了。但是如何来知道复制是否成功了呢？这里可以通过这种方法来快速看是否成功。展开出版服务器下面的复制——发布内容——右键发布内容——属性——击活——状态然后点立即运行代理程序接着点代理程序属性击活调度把调度设置为每一天发生，每一分钟，在0：00：00和23：59：59之间。接下来就是判断复制是否成功了打开C:/ProgramFiles/MicrosoftSQLServer/MSSQL/REPLDATA/unc/XIAOWANGZI_database_database下面看是不是有一些以时间做为文件名的文件夹差不多一分中就产生一个。要是你还不信的话就打开你的数据库看在订阅的服务器的指定订阅数据库下看是不是看到了你刚才所发布的表—

一个手工同步的方案

--定时同步服务器上的数据

--例子:

--测试环境,SQLServer2000,远程服务器名:xz,用户名为:sa,无密码,测试数据库:test

--服务器上的表(查询分析器连接到服务器上创建)

createtable[user](idintprimarykey,numbervarchar(4),namevarchar(10))

go

--以下在局域网(本机操作)

--本机的表,state说明:null表示新增记录,1表示修改过的记录,0表示无变化的记录

ifexists(select*fromdbo.sysobjectswhereid=object_id(N'[user]')andOBJECTPROPERTY(id,N'IsUserTable')=1)

droptable[user]

GO

createtable[user](idintidentity(1,1),numbervarchar(4),namevarchar(10),statebit)

go

--创建触发器,维护state字段的值

createtriggert_stateon[user]

afterupdate

as

update[user]setstate=1

from[user]ajoininsertedbona.id=b.id

wherea.stateisnotnull

go

--为了方便同步处理,创建链接服务器到要同步的服务器

--这里的远程服务器名为:xz,用户名为:sa,无密码

ifexists(select1frommaster..sysserverswheresrvname='srv_lnk')

execsp_dropserver'srv_lnk','droplogins'

go

execsp_addlinkedserver'srv_lnk','','SQLOLEDB','xz'

execsp_addlinkedsrvlogin'srv_lnk','false',null,'sa'

go

--创建同步处理的存储过程

ifexists(select*fromdbo.sysobjectswhereid=object_id(N'[dbo].[p_synchro]')andOBJECTPROPERTY(id,N'IsProcedure')=1)

dropprocedure[dbo].[p_synchro]

GO

createprocp_synchro

as

--setXACT_ABORTon

--启动远程服务器的MSDTC服务

--execmaster..xp_cmdshell'isql/S"xz"/U"sa"/P""/q"execmaster..xp_cmdshell''netstartmsdtc'',no_output"',no_output

--启动本机的MSDTC服务

--execmaster..xp_cmdshell'netstartmsdtc',no_output

--进行分布事务处理,如果表用标识列做主键,用下面的方法

--BEGINDISTRIBUTEDTRANSACTION

--同步删除的数据

deletefromsrv_lnk.test.dbo.[user]

whereidnotin(selectidfrom[user])

--同步新增的数据

insertintosrv_lnk.test.dbo.[user]

selectid,number,namefrom[user]wherestateisnull

--同步修改的数据

updatesrv_lnk.test.dbo.[user]set

number=b.number,name=b.name

fromsrv_lnk.test.dbo.[user]a

join[user]bona.id=b.id

whereb.state=1

--同步后更新本机的标志

update[user]setstate=0whereisnull(state,1)=1

--COMMITTRAN

go

--创建作业,定时执行数据同步的存储过程

ifexists(SELECT1frommsdb..sysjobswherename='数据处理')

EXECUTEmsdb.dbo.sp_delete_job@job_name='数据处理'

execmsdb..sp_add_job@job_name='数据处理'

--创建作业步骤

declare@sqlvarchar(800),@dbnamevarchar(250)

select@sql='execp_synchro'--数据处理的命令

,@dbname=db_name()--执行数据处理的数据库名

execmsdb..sp_add_jobstep@job_name='数据处理',

@step_name='数据同步',

@subsystem='TSQL',

@database_name=@dbname,

@command=@sql,

@retry_attempts=5,--重试次数

@retry_interval=5--重试间隔

--创建调度

EXECmsdb..sp_add_jobschedule@job_name='数据处理',

@name='时间安排',

@freq_type=4,--每天

@freq_interval=1,--每天执行一次

@active_start_time=00000--0点执行

go

MySQL之快照读

快照读 即： snapshot read ，官方叫法是： Consistent Nonlocking Reads ，即： 一致性非锁定读 ，官方的解释是：

即：

即 快照读 的问题在于：在同一个事务中，能够读取到之前提交的数据。表现为：

字面意思：在事务中，为查询创建的快照，并不适用与 DML 语句。

也就是说：如果事务 A 开始时创建的快照，查询不到数据 col1=1 ，但此时事务 B 刚刚提交 insert col1=1 和 insert col1=1 ，此时如果事务 A 执行， delete col1=1 ，是能将事务 B 生成的数据删除的。

字面意思：即使事务 A 的快照是在事务 B 提交之前创建的，但事务 A 也只有在事务 A 和事务 B 都提交后，才能看到事务 B 新增的数据。

mysql原理（十） 当前读与快照读

首先我们做一个模拟，执行以下的sql，其中有如下图数据：

我把执行结果按照表格如下展示：

分析：

在会话1当中，只有当会话1的事务提交后，才能查到最终会话2更改的数据。

在会话2当中，开启事务后更新数据，之后查询发现数据变成了17。

针对上面的现象我们进行个原理分析:

实际上产生上述显现是因为InnoDB采用的MVCC（多版本并发控制），其中针对每条数据会有它自己的事务id，以及一个最大事务id。针对事务中数据每次修改，会产生不同的版本。

1）假设开始id = 2的数据，其事务txid = 1000；

2）当会话1开始，此时txid变成了1001，而会话2开启，txid又变成了1002，同理会话3会变成1003，此时都生成了不同版本的快照。

3）会话1在事务当中去读取时候，采用了快照读的方式，即拿到一个1001的事务id，此时只会读取小于等于自己版本的数据，所以在事务中最终只能拿到值为17的数据。

4）会话2在更新数据的时候，采用的当前读的方式，即对数据增加X锁，获取最新的事务id，读取最新的版本数据。所以在更新之前，就读取到了age的年龄是16，之后在进行+1，得到17.

总结一下：

快照读 解决了幻读的问题，即多次读取数据不一致的问题。

update、insert、delete都会执行 当前读 ，防止并发更新数据导致数据错误，此过程或添加X锁。