主頁(yè) > 知識(shí)庫(kù) > Mysql數(shù)據(jù)庫(kù)之Binlog日志使用總結(jié)(必看篇)

Mysql數(shù)據(jù)庫(kù)之Binlog日志使用總結(jié)(必看篇)

熱門(mén)標(biāo)簽:哈爾濱云外呼系統(tǒng)運(yùn)營(yíng)商 趙縣地圖標(biāo)注 邯鄲400電話注冊(cè)辦理 遂寧400電話申請(qǐng) dq8 全地圖標(biāo)注 地圖標(biāo)注直通車(chē) 南寧智能電銷(xiāo)機(jī)器人價(jià)格 電銷(xiāo)機(jī)器人市場(chǎng)價(jià) 永州智能外呼系統(tǒng)

binlog二進(jìn)制日志對(duì)于mysql數(shù)據(jù)庫(kù)的重要性有多大,在此就不多說(shuō)了。下面根據(jù)本人的日常操作經(jīng)歷,并結(jié)合網(wǎng)上參考資料,對(duì)binlog日志使用做一梳理:

一、binlog日志介紹

1)什么是binlog
binlog日志用于記錄所有更新了數(shù)據(jù)或者已經(jīng)潛在更新了數(shù)據(jù)(例如,沒(méi)有匹配任何行的一個(gè)DELETE)的所有語(yǔ)句。語(yǔ)句以“事件”的形式保存,它描述數(shù)據(jù)更改。

2)binlog作用
因?yàn)橛辛藬?shù)據(jù)更新的binlog,所以可以用于實(shí)時(shí)備份,與master/slave主從復(fù)制結(jié)合。

3)和binlog有關(guān)參數(shù)
log_bin

設(shè)置此參數(shù)表示啟用binlog功能,并指定路徑名稱(chēng)

log_bin_index

設(shè)置此參數(shù)是指定二進(jìn)制索引文件的路徑與名稱(chēng)

binlog_do_db

此參數(shù)表示只記錄指定數(shù)據(jù)庫(kù)的二進(jìn)制日志

binlog_ignore_db
此參數(shù)表示不記錄指定的數(shù)據(jù)庫(kù)的二進(jìn)制日志

max_binlog_cache_size

此參數(shù)表示binlog使用的內(nèi)存最大的尺寸

binlog_cache_size

此參數(shù)表示binlog使用的內(nèi)存大小,可以通過(guò)狀態(tài)變量binlog_cache_use和binlog_cache_disk_use來(lái)幫助測(cè)試。

binlog_cache_use:使用二進(jìn)制日志緩存的事務(wù)數(shù)量

binlog_cache_disk_use:使用二進(jìn)制日志緩存但超過(guò)binlog_cache_size值并使用臨時(shí)文件來(lái)保存事務(wù)中的語(yǔ)句的事務(wù)數(shù)量

max_binlog_size

Binlog最大值,最大和默認(rèn)值是1GB,該設(shè)置并不能?chē)?yán)格控制Binlog的大小,尤其是Binlog比較靠近最大值而又遇到一個(gè)比較大事務(wù)時(shí),為了保證事務(wù)的完整性,不可能做切換日志的動(dòng)作,只能將該事務(wù)的所有SQL都記錄進(jìn)當(dāng)前日志,直到事務(wù)結(jié)束

sync_binlog

這個(gè)參數(shù)直接影響mysql的性能和完整性

sync_binlog=0

當(dāng)事務(wù)提交后,Mysql僅僅是將binlog_cache中的數(shù)據(jù)寫(xiě)入Binlog文件,但不執(zhí)行fsync之類(lèi)的磁盤(pán) 同步指令通知文件系統(tǒng)將緩存刷新到磁盤(pán),而讓Filesystem自行決定什么時(shí)候來(lái)做同步,這個(gè)是性能最好的。

sync_binlog=n,在進(jìn)行n次事務(wù)提交以后,Mysql將執(zhí)行一次fsync之類(lèi)的磁盤(pán)同步指令,同志文件系統(tǒng)將Binlog文件緩存刷新到磁盤(pán)。

Mysql中默認(rèn)的設(shè)置是sync_binlog=0,即不作任何強(qiáng)制性的磁盤(pán)刷新指令,這時(shí)性能是最好的,但風(fēng)險(xiǎn)也是最大的。一旦系統(tǒng)繃Crash,在文件系統(tǒng)緩存中的所有Binlog信息都會(huì)丟失

4)binlog的刪除

binlog的刪除可以手工刪除或自動(dòng)刪除:

a)自動(dòng)刪除binlog

通過(guò)binlog參數(shù)(expire_logs_days )來(lái)實(shí)現(xiàn)mysql自動(dòng)刪除binlog

mysql> show binary logs;
mysql> show variables like 'expire_logs_days';      //該參數(shù)表示binlog日志自動(dòng)刪除/過(guò)期的天數(shù),默認(rèn)值為0,表示不自動(dòng)刪除
mysql> set global expire_logs_days=3;        //表示日志保留3天,3天后就自動(dòng)過(guò)期。

b)手工刪除binlog

mysql> reset master;        //刪除master的binlog,即手動(dòng)刪除所有的binlog日志
mysql> reset slave;          //刪除slave的中繼日志
mysql> purge master logs before '2012-03-30 17:20:00';         //刪除指定日期以前的日志索引中binlog日志文件
mysql> purge master logs to 'binlog.000002';       //刪除指定日志文件的日志索引中binlog日志文件

mysql> set sql_log_bin=1/0;       //如果用戶有super權(quán)限,可以啟用或禁用當(dāng)前會(huì)話的binlog記錄
mysql> show master logs;          //查看master的binlog日志列表
mysql> show binary logs;           //查看master的binlog日志文件大小
mysql> show master status;     //用于提供master二進(jìn)制日志文件的狀態(tài)信息
mysql> show slave hosts;        //顯示當(dāng)前注冊(cè)的slave的列表。不以--report-host=slave_name選項(xiàng)為開(kāi)頭的slave不會(huì)顯示在本列表中

mysql> flush logs;     //產(chǎn)生一個(gè)新的binlog日志文件

 

mysql binlog日志自動(dòng)清理及手動(dòng)刪除案例說(shuō)明:

當(dāng)開(kāi)啟MySQL數(shù)據(jù)庫(kù)主從時(shí),會(huì)產(chǎn)生大量如mysql-bin.00000* log的文件,這會(huì)大量耗費(fèi)您的硬盤(pán)空間。 
mysql-bin.000001 
mysql-bin.000002 
mysql-bin.000003 
mysql-bin.000004 
mysql-bin.000005 
… 
 
刪除這些binlog日志有三種解決方法: 
1.關(guān)閉mysql主從,關(guān)閉binlog; 
實(shí)例操作如下: 
[root@huqniupc ~]# vim /etc/my.cnf  //注釋掉log-bin和binlog_format 
# Replication Master Server (default) 
# binary logging is required for replication 
# log-bin=mysql-bin 
# binary logging format - mixed recommended 
# binlog_format=mixed 
然后重啟數(shù)據(jù)庫(kù) 
 
2.開(kāi)啟mysql主從,設(shè)置expire_logs_days; 
實(shí)例操作如下: 
[root@huqniupc ~]# vim /etc/my.cnf //修改expire_logs_days,x是自動(dòng)刪除的天數(shù),一般將x設(shè)置為短點(diǎn),如10 
expire_logs_days = x //二進(jìn)制日志自動(dòng)刪除的天數(shù)。默認(rèn)值為0,表示“沒(méi)有自動(dòng)刪除” 
此方法需要重啟mysql 
 
當(dāng)然也可以不重啟mysql,開(kāi)啟mysql主從,直接在mysql里設(shè)置expire_logs_days 
> show binary logs; 
> show variables like '%log%'; 
> set global expire_logs_days = 10; 
 
 
3.手動(dòng)清除binlog文件,(比如Mysql> PURGE MASTER LOGS TO ‘MySQL-bin.010′;) 
實(shí)例操作如下: 
[root@huqniupc ~]# /usr/local/mysql/bin/mysql -u root -p 
> PURGE MASTER LOGS BEFORE DATE_SUB(CURRENT_DATE, INTERVAL 10 DAY);  //刪除10天前的MySQL binlog日志,附錄2有關(guān)于PURGE MASTER LOGS手動(dòng)刪除用法及示例 
> show master logs; 
  
也可以重置master,刪除所有binlog文件: 
# /usr/local/mysql/bin/mysql -u root -p 
> reset master; //附錄3有清除binlog時(shí),對(duì)從mysql的影響說(shuō)明 
  
--------------------------------------------------------------- 
PURGE MASTER LOGS手動(dòng)刪除用法及示例,MASTER和BINARY是同義詞 
> PURGE {MASTER | BINARY} LOGS TO 'log_name'
> PURGE {MASTER | BINARY} LOGS BEFORE 'date'
刪除指定的日志或日期之前的日志索引中的所有二進(jìn)制日志。這些日志也會(huì)從記錄在日志索引文件中的清單中被刪除MySQL BIN-LOG 日志,這樣被給定的日志成為第一個(gè)。 
 
實(shí)例: 
> PURGE MASTER LOGS TO 'MySQL-bin.010'; //清除MySQL-bin.010日志 
> PURGE MASTER LOGS BEFORE '2008-06-22 13:00:00';  //清除2008-06-22 13:00:00前binlog日志 
> PURGE MASTER LOGS BEFORE DATE_SUB( NOW( ), INTERVAL 3 DAY); //清除3天前binlog日志BEFORE,變量的date自變量可以為'YYYY-MM-DD hh:mm:ss'格式。 
-----------------------------------------------------

5)清除binlog時(shí),對(duì)從mysql的影響

如果有一個(gè)活躍的slave從屬服務(wù)器,該服務(wù)器當(dāng)前正在讀取您正在試圖刪除的日志之一,則本語(yǔ)句不會(huì)起作用,而是會(huì)失敗,并伴隨一個(gè)錯(cuò)誤;不過(guò)如果slave從屬服務(wù)器是關(guān)閉的(或master-slave主從關(guān)系關(guān)閉),并且碰巧清理了其想要讀取的日志之一,則slave從屬服務(wù)器啟動(dòng)后不能復(fù)制;當(dāng)從屬服務(wù)器正在復(fù)制時(shí),本語(yǔ)句可以安全運(yùn)行,不需要停止它們。

6)binglog的查看

通過(guò)mysqlbinlog命令可以查看binlog的內(nèi)容

[root@localhost ~]# mysqlbinlog /home/mysql/binlog/binlog.000003 | more
/*!40019 SET @@session.max_insert_delayed_threads=0*/;
/*!50003 SET @OLD_COMPLETION_TYPE=@@COMPLETION_TYPE,COMPLETION_TYPE=0*/;
DELIMITER /*!*/;
# at 4
#120330 16:51:46 server id 1 end_log_pos 98 Start: binlog v 4, server v 5.0.45-log created 120330 1
6:51:46
# Warning: this binlog was not closed properly. Most probably mysqld crashed writing it.
# at 196
#120330 17:54:15 server id 1 end_log_pos 294 Query thread_id=3 exec_time=2 error_code=0
SET TIMESTAMP=1333101255/*!*/;
insert into tt7 select * from tt7/*!*/;
# at 294
#120330 17:54:46 server id 1 end_log_pos 388 Query thread_id=3 exec_time=28 error_code=0
SET TIMESTAMP=1333101286/*!*/;
alter table tt7 engine=innodb/*!*/;

解析binlog格式:

位置

位于文件中的位置,“at 196”說(shuō)明“事件”的起點(diǎn),是以第196字節(jié)開(kāi)始;“end_log_pos 294”說(shuō)明以第294字節(jié)結(jié)束

時(shí)間戳

事件發(fā)生的時(shí)間戳:“120330 17:54:46”

事件執(zhí)行時(shí)間

事件執(zhí)行花費(fèi)的時(shí)間:"exec_time=28"

錯(cuò)誤碼

錯(cuò)誤碼為:“error_code=0”

服務(wù)器的標(biāo)識(shí)

服務(wù)器的標(biāo)識(shí)id:“server id 1”

注意下面幾點(diǎn):

1.mysql的日志切不可想象是可以恢復(fù)到任何時(shí)間的狀態(tài),這個(gè)恢復(fù)是有前提的!
至少得有一個(gè)從日志記錄開(kāi)始后的數(shù)據(jù)庫(kù)備份,通過(guò)日志恢復(fù)數(shù)據(jù)庫(kù)實(shí)際上只是一個(gè)對(duì)以前操作的回放過(guò)程而已,不用想得太復(fù)雜。

既然是回放操作,那么就得注意了,如果是執(zhí)行了兩次恢復(fù)那就相當(dāng)于是回放了兩次,后果可想而知。

所以:

1)恢復(fù)前務(wù)必先備份數(shù)據(jù).

2)由于二進(jìn)制文件多,并且需要恢復(fù)的數(shù)據(jù)跨度大,可以考慮將日志文件合并在恢復(fù).

2. 開(kāi)啟binlog日志功能

要想通過(guò)日志恢復(fù)數(shù)據(jù)庫(kù),必須首先在my.cnf文件里定義,log-bin=mysql-bin,這樣產(chǎn)生的binlog日志名就是以mysql-bin命名的

3.什么時(shí)候會(huì)生成新的binlog文件

1)在備份的時(shí)候加入--flush-logs

2)重新啟動(dòng)mysql服務(wù)的時(shí)候

特別提示,mysql每次啟動(dòng)都會(huì)重新生成一個(gè)類(lèi)似mysql-bin.00000n的文件,如果你的mysql每天都要重新啟動(dòng)一次的話,這時(shí)候你就要特別注意不要選錯(cuò)日志文件了。

二、binlog日志格式介紹 

(1)Mysql binlog日志有三種格式,分別是Statement、MiXED、ROW

1)Statement:每一條會(huì)修改數(shù)據(jù)的sql都會(huì)記錄在binlog中

優(yōu)點(diǎn):不需要記錄每一行的變化,減少了binlog日志量,節(jié)約了IO,提高性能。(相比row能節(jié)約多少性能與日志量,這個(gè)取決于應(yīng)用的SQL情況,正常同一條記錄修改或者插入row格式所產(chǎn)生的日志量還小于Statement產(chǎn)生的日志量,但是考慮到如果帶條件的update操作,以及整表刪除,alter表等操作,ROW格式會(huì)產(chǎn)生大量日志,因此在考慮是否使用ROW格式日志時(shí)應(yīng)該跟據(jù)應(yīng)用的實(shí)際情況,其所產(chǎn)生的日志量會(huì)增加多少,以及帶來(lái)的IO性能問(wèn)題。)

缺點(diǎn):由于記錄的只是執(zhí)行語(yǔ)句,為了這些語(yǔ)句能在slave上正確運(yùn)行,因此還必須記錄每條語(yǔ)句在執(zhí)行的時(shí)候的一些相關(guān)信息,以保證所有語(yǔ)句能在slave得到和在master端執(zhí)行時(shí)候相同 的結(jié)果。另外mysql 的復(fù)制,像一些特定函數(shù)功能,slave可與master上要保持一致會(huì)有很多相關(guān)問(wèn)題(如sleep()函數(shù), last_insert_id(),以及user-defined functions(udf)會(huì)出現(xiàn)問(wèn)題).

使用以下函數(shù)的語(yǔ)句也無(wú)法被復(fù)制:

* LOAD_FILE()
* UUID()
* USER()
* FOUND_ROWS()
* SYSDATE() (除非啟動(dòng)時(shí)啟用了 --sysdate-is-now 選項(xiàng))

同時(shí)在INSERT ...SELECT 會(huì)產(chǎn)生比 RBR 更多的行級(jí)鎖

2)Row:不記錄sql語(yǔ)句上下文相關(guān)信息,僅保存哪條記錄被修改

優(yōu)點(diǎn): binlog中可以不記錄執(zhí)行的sql語(yǔ)句的上下文相關(guān)的信息,僅需要記錄那一條記錄被修改成什么了。所以rowlevel的日志內(nèi)容會(huì)非常清楚的記錄下每一行數(shù)據(jù)修改的細(xì)節(jié)。而且不會(huì)出現(xiàn)某些特定情況下的存儲(chǔ)過(guò)程,或function,以及trigger的調(diào)用和觸發(fā)無(wú)法被正確復(fù)制的問(wèn)題

缺點(diǎn):所有的執(zhí)行的語(yǔ)句當(dāng)記錄到日志中的時(shí)候,都將以每行記錄的修改來(lái)記錄,這樣可能會(huì)產(chǎn)生大量的日志內(nèi)容,比如一條update語(yǔ)句,修改多條記錄,則binlog中每一條修改都會(huì)有記錄,這樣造成binlog日志量會(huì)很大,特別是當(dāng)執(zhí)行alter table之類(lèi)的語(yǔ)句的時(shí)候,由于表結(jié)構(gòu)修改,每條記錄都發(fā)生改變,那么該表每一條記錄都會(huì)記錄到日志中。

3)Mixedlevel: 是以上兩種level的混合使用,一般的語(yǔ)句修改使用statment格式保存binlog,如一些函數(shù),statement無(wú)法完成主從復(fù)制的操作,則采用row格式保存binlog,MySQL會(huì)根據(jù)執(zhí)行的每一條具體的sql語(yǔ)句來(lái)區(qū)分對(duì)待記錄的日志形式,也就是在Statement和Row之間選擇一種.新版本的MySQL中隊(duì)row level模式也被做了優(yōu)化,并不是所有的修改都會(huì)以row level來(lái)記錄,像遇到表結(jié)構(gòu)變更的時(shí)候就會(huì)以statement模式來(lái)記錄。至于update或者delete等修改數(shù)據(jù)的語(yǔ)句,還是會(huì)記錄所有行的變更。

Mixed日志說(shuō)明:

在slave日志同步過(guò)程中,對(duì)于使用now這樣的時(shí)間函數(shù),MIXED日志格式,會(huì)在日志中產(chǎn)生對(duì)應(yīng)的unix_timestamp()*1000的時(shí)間字符串,slave在完成同步時(shí),取用的是sqlEvent發(fā)生的時(shí)間來(lái)保證數(shù)據(jù)的準(zhǔn)確性。另外對(duì)于一些功能性函數(shù)slave能完成相應(yīng)的數(shù)據(jù)同步,而對(duì)于上面指定的一些類(lèi)似于UDF函數(shù),導(dǎo)致Slave無(wú)法知曉的情況,則會(huì)采用ROW格式存儲(chǔ)這些Binlog,以保證產(chǎn)生的Binlog可以供Slave完成數(shù)據(jù)同步。

(2)binlog基本配制與格式設(shè)定

1)基本配制

binlog日志格式可以通過(guò)mysql的my.cnf文件的屬性binlog_format指定。如以下:
binlog_format = MIXED              //binlog日志格式
log_bin =目錄/mysql-bin.log       //binlog日志名
expire_logs_days = 7                 //binlog過(guò)期清理時(shí)間
max_binlog_size 100m              //binlog每個(gè)日志文件大小

binlog-do-db=需要備份的數(shù)據(jù)庫(kù)名,如果備份多個(gè)數(shù)據(jù)庫(kù),重復(fù)設(shè)置這個(gè)選項(xiàng)即可
binlog-ignore-db=不需要備份的數(shù)據(jù)庫(kù)苦命,如果備份多個(gè)數(shù)據(jù)庫(kù),重復(fù)設(shè)置這個(gè)選項(xiàng)即可

2)Binlog日志格式選擇

Mysql默認(rèn)是使用Statement日志格式,推薦使用MIXED.
由于一些特殊使用,可以考慮使用ROWED,如自己通過(guò)binlog日志來(lái)同步數(shù)據(jù)的修改,這樣會(huì)節(jié)省很多相關(guān)操作。對(duì)于binlog數(shù)據(jù)處理會(huì)變得非常輕松,相對(duì)mixed,解析也會(huì)很輕松(當(dāng)然前提是增加的日志量所帶來(lái)的IO開(kāi)銷(xiāo)在容忍的范圍內(nèi)即可)。

3)mysqlbinlog格式選擇

mysql對(duì)于日志格式的選定原則:如果是采用 INSERT,UPDATE,DELETE 等直接操作表的情況,則日志格式根據(jù) binlog_format 的設(shè)定而記錄,如果是采用 GRANT,REVOKE,SET PASSWORD 等管理語(yǔ)句來(lái)做的話,那么無(wú)論如何 都采用 SBR 模式記錄

(3)Mysql Binlog日志分析

通過(guò)MysqlBinlog指令查看具體的mysql日志,如下:

///////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

SET TIMESTAMP=1350355892/*!*/;

BEGIN

/*!*/;

# at 1643330

#121016 10:51:32 server id 1 end_log_pos 1643885 Query thread_id=272571 exec_time=0 error_code=0

SET TIMESTAMP=1350355892/*!*/;

Insert into T_test….)

/*!*/;

# at 1643885

#121016 10:51:32 server id 1 end_log_pos 1643912 Xid = 0

COMMIT/*!*/;

///////////////////////////////////////////////////////////////////////////////////////////////////////////////////////////

1.開(kāi)始事物的時(shí)間:

SET TIMESTAMP=1350355892/*!*/;

BEGIN

2.sqlevent起點(diǎn)

#at 1643330 :為事件的起點(diǎn),是以1643330字節(jié)開(kāi)始。

3.sqlevent 發(fā)生的時(shí)間點(diǎn)

#121016 10:51:32:是事件發(fā)生的時(shí)間,

4.serverId

server id 1 :為master 的serverId

5.sqlevent終點(diǎn)及花費(fèi)時(shí)間,錯(cuò)誤碼

end_log_pos 1643885:為事件的終點(diǎn),是以1643885 字節(jié)結(jié)束。

execTime 0: 花費(fèi)的時(shí)間

error_code=0:錯(cuò)誤碼

Xid:事件指示提交的XA事務(wù)

三、mysql日志(重點(diǎn)binlog日志)的優(yōu)化說(shuō)明

MySQL系統(tǒng)的伸縮性很強(qiáng),既可以在充足的硬件資源環(huán)境下高效運(yùn)行,也可以在極少資源環(huán)境下很好的運(yùn)行,
但不管怎樣,盡可能充足的硬件資源對(duì)MySQL的性能提升總是有幫助的。

下面著重分析一下MySQL的日志(主要是Binlog)對(duì)系統(tǒng)性能的影響,并根據(jù)日志的相關(guān)特性得出相應(yīng)的優(yōu)化思路。

1)日志產(chǎn)生的性能影響
由于日志的記錄帶來(lái)的直接性能損耗就是數(shù)據(jù)庫(kù)系統(tǒng)中最為昂貴的IO資源

MySQL的日志主要包括錯(cuò)誤日志(ErrorLog),更新日志(UpdateLog),二進(jìn)制日志(Binlog),查詢(xún)?nèi)罩荆≦ueryLog),慢查詢(xún)?nèi)罩荆⊿lowQueryLog)等。
特別注意:更新日志是老版本的MySQL才有的,目前已經(jīng)被二進(jìn)制日志替代。

在默認(rèn)情況下,系統(tǒng)僅僅打開(kāi)錯(cuò)誤日志,關(guān)閉了其他所有日志,以達(dá)到盡可能減少I(mǎi)O損耗提高系統(tǒng)性能的目的。
但是在一般稍微重要一點(diǎn)的實(shí)際應(yīng)用場(chǎng)景中,都至少需要打開(kāi)二進(jìn)制日志,因?yàn)檫@是MySQL很多存儲(chǔ)引擎進(jìn)行增量備份的基礎(chǔ),也是MySQL實(shí)現(xiàn)復(fù)制的基本條件。
有時(shí)候?yàn)榱诉M(jìn)一步的mysql性能優(yōu)化,定位執(zhí)行較慢的SQL語(yǔ)句,很多系統(tǒng)也會(huì)打開(kāi)慢查詢(xún)?nèi)罩緛?lái)記錄執(zhí)行時(shí)間超過(guò)特定數(shù)值(由我們自行設(shè)置)的SQL語(yǔ)句。

一般情況下,在生產(chǎn)系統(tǒng)中很少有系統(tǒng)會(huì)打開(kāi)查詢(xún)?nèi)罩?。因?yàn)椴樵?xún)?nèi)罩敬蜷_(kāi)之后會(huì)將MySQL中執(zhí)行的每一條Query都記錄到日志中,會(huì)該系統(tǒng)帶來(lái)比較大的IO負(fù)擔(dān),而帶來(lái)的實(shí)際效益卻并不是非常大。一般只有在開(kāi)發(fā)測(cè)試環(huán)境中,為了定位某些功能具體使用了哪些SQL語(yǔ)句的時(shí)候,才會(huì)在短時(shí)間段內(nèi)打開(kāi)該日志來(lái)做相應(yīng)的分析。
所以,在MySQL系統(tǒng)中,會(huì)對(duì)性能產(chǎn)生影響的MySQL日志(不包括各存儲(chǔ)引擎自己的日志)主要就是Binlog了。

2)Binlog 相關(guān)參數(shù)及優(yōu)化策略

我們首先看看Binlog的相關(guān)參數(shù),通過(guò)執(zhí)行如下命令可以獲得關(guān)于Binlog的相關(guān)參數(shù)。
當(dāng)然,其中也顯示出了“innodb_locks_unsafe_for_binlog”這個(gè)Innodb存儲(chǔ)引擎特有的與Binlog相關(guān)的參數(shù):

mysql> show variables like '%binlog%'; 
+-----------------------------------------+----------------------+ 
| Variable_name              | Value        | 
+-----------------------------------------+----------------------+ 
| binlog_cache_size            | 16777216       | 
| binlog_checksum             | CRC32        | 
| binlog_direct_non_transactional_updates | OFF         | 
| binlog_error_action           | IGNORE_ERROR     | 
| binlog_format              | MIXED        | 
| binlog_gtid_simple_recovery       | OFF         | 
| binlog_max_flush_queue_time       | 0          | 
| binlog_order_commits          | ON          | 
| binlog_row_image            | FULL         | 
| binlog_rows_query_log_events      | OFF         | 
| binlog_stmt_cache_size         | 32768        | 
| binlogging_impossible_mode       | IGNORE_ERROR     | 
| innodb_api_enable_binlog        | OFF         | 
| innodb_locks_unsafe_for_binlog     | OFF         | 
| max_binlog_cache_size          | 18446744073709547520 | 
| max_binlog_size             | 1073741824      | 
| max_binlog_stmt_cache_size       | 18446744073709547520 | 
| simplified_binlog_gtid_recovery     | OFF         | 
| sync_binlog               | 1          | 
+-----------------------------------------+----------------------+ 
19 rows in set (0.00 sec)

“binlog_cache_size":在事務(wù)過(guò)程中容納二進(jìn)制日志SQL語(yǔ)句的緩存大小。二進(jìn)制日志緩存是服務(wù)器支持事務(wù)存儲(chǔ)引擎并且服務(wù)器啟用了二進(jìn)制日志(—log-bin選項(xiàng))的前提下為每個(gè)客戶端分配的內(nèi)存,注意,是每個(gè)Client都可以分配設(shè)置大小的binlogcache空間。如果讀者朋友的系統(tǒng)中經(jīng)常會(huì)出現(xiàn)多語(yǔ)句事務(wù)的華,可以嘗試增加該值的大小,以獲得更有的性能。當(dāng)然,我們可以通過(guò)MySQL的以下兩個(gè)狀態(tài)變量來(lái)判斷當(dāng)前的binlog_cache_size的狀況:Binlog_cache_use和Binlog_cache_disk_use。

“max_binlog_cache_size”:和"binlog_cache_size"相對(duì)應(yīng),但是所代表的是binlog能夠使用的最大cache內(nèi)存大小。當(dāng)我們執(zhí)行多語(yǔ)句事務(wù)的時(shí)候,max_binlog_cache_size如果不夠大的話,系統(tǒng)可能會(huì)報(bào)出“Multi-statementtransactionrequiredmorethan'max_binlog_cache_size'bytesofstorage”的錯(cuò)誤。

“max_binlog_size”:Binlog日志最大值,一般來(lái)說(shuō)設(shè)置為512M或者1G,但不能超過(guò)1G。該大小并不能非常嚴(yán)格控制Binlog大小,尤其是當(dāng)?shù)竭_(dá)Binlog比較靠近尾部而又遇到一個(gè)較大事務(wù)的時(shí)候,系統(tǒng)為了保證事務(wù)的完整性,不可能做切換日志的動(dòng)作,只能將該事務(wù)的所有SQL都記錄進(jìn)入當(dāng)前日志,直到該事務(wù)結(jié)束。這一點(diǎn)和Oracle的Redo日志有點(diǎn)不一樣,因?yàn)镺racle的Redo日志所記錄的是數(shù)據(jù)文件的物理位置的變化,而且里面同時(shí)記錄了Redo和Undo相關(guān)的信息,所以同一個(gè)事務(wù)是否在一個(gè)日志中對(duì)Oracle來(lái)說(shuō)并不關(guān)鍵。而MySQL在Binlog中所記錄的是數(shù)據(jù)庫(kù)邏輯變化信息,MySQL稱(chēng)之為Event,實(shí)際上就是帶來(lái)數(shù)據(jù)庫(kù)變化的DML之類(lèi)的Query語(yǔ)句。

“sync_binlog”:這個(gè)參數(shù)是對(duì)于MySQL系統(tǒng)來(lái)說(shuō)是至關(guān)重要的,他不僅影響到Binlog對(duì)MySQL所帶來(lái)的性能損耗,而且還影響到MySQL中數(shù)據(jù)的完整性。對(duì)于“sync_binlog”參數(shù)的各種設(shè)置的說(shuō)明如下:

sync_binlog=0,當(dāng)事務(wù)提交之后,MySQL不做fsync之類(lèi)的磁盤(pán)同步指令刷新binlog_cache中的信息到磁盤(pán),而讓Filesystem自行決定什么時(shí)候來(lái)做同步,或者cache滿了之后才同步到磁盤(pán)。

sync_binlog=n,當(dāng)每進(jìn)行n次事務(wù)提交之后,MySQL將進(jìn)行一次fsync之類(lèi)的磁盤(pán)同步指令來(lái)將binlog_cache中的數(shù)據(jù)強(qiáng)制寫(xiě)入磁盤(pán)。

在MySQL中系統(tǒng)默認(rèn)的設(shè)置是sync_binlog=0,也就是不做任何強(qiáng)制性的磁盤(pán)刷新指令,這時(shí)候的性能是最好的,但是風(fēng)險(xiǎn)也是最大的。因?yàn)橐坏┫到y(tǒng)Crash,在binlog_cache中的所有binlog信息都會(huì)被丟失。而當(dāng)設(shè)置為“1”的時(shí)候,是最安全但是性能損耗最大的設(shè)置。因?yàn)楫?dāng)設(shè)置為1的時(shí)候,即使系統(tǒng)Crash,也最多丟失binlog_cache中未完成的一個(gè)事務(wù),對(duì)實(shí)際數(shù)據(jù)沒(méi)有任何實(shí)質(zhì)性影響。從以往經(jīng)驗(yàn)和相關(guān)測(cè)試來(lái)看,對(duì)于高并發(fā)事務(wù)的系統(tǒng)來(lái)說(shuō),“sync_binlog”設(shè)置為0和設(shè)置為1的系統(tǒng)寫(xiě)入性能差距可能高達(dá)5倍甚至更多。

另:

MySQL的復(fù)制(Replication),實(shí)際上就是通過(guò)將Master端的Binlog通過(guò)利用IO線程通過(guò)網(wǎng)絡(luò)復(fù)制到Slave端,然后再通過(guò)SQL線程解析Binlog中的日志再應(yīng)用到數(shù)據(jù)庫(kù)中來(lái)實(shí)現(xiàn)的。所以,Binlog量的大小對(duì)IO線程以及Msater和Slave端之間的網(wǎng)絡(luò)都會(huì)產(chǎn)生直接的影響。

MySQL中Binlog的產(chǎn)生量是沒(méi)辦法改變的,只要我們的Query改變了數(shù)據(jù)庫(kù)中的數(shù)據(jù),那么就必須將該Query所對(duì)應(yīng)的Event記錄到Binlog中。那我們是不是就沒(méi)有辦法優(yōu)化復(fù)制了呢?當(dāng)然不是,在MySQL復(fù)制環(huán)境中,實(shí)際上是是有8個(gè)參數(shù)可以讓我們控制需要復(fù)制或者需要忽略而不進(jìn)行復(fù)制的DB或者Table的,分別為:

Binlog_Do_DB:設(shè)定哪些數(shù)據(jù)庫(kù)(Schema)需要記錄Binlog;

Binlog_Ignore_DB:設(shè)定哪些數(shù)據(jù)庫(kù)(Schema)不要記錄Binlog;

Replicate_Do_DB:設(shè)定需要復(fù)制的數(shù)據(jù)庫(kù)(Schema),多個(gè)DB用逗號(hào)(“,”)分隔;

Replicate_Ignore_DB:設(shè)定可以忽略的數(shù)據(jù)庫(kù)(Schema);

Replicate_Do_Table:設(shè)定需要復(fù)制的Table;

Replicate_Ignore_Table:設(shè)定可以忽略的Table;

Replicate_Wild_Do_Table:功能同Replicate_Do_Table,但可以帶通配符來(lái)進(jìn)行設(shè)置;

Replicate_Wild_Ignore_Table:功能同Replicate_Ignore_Table,可帶通配符設(shè)置;


通過(guò)上面這八個(gè)參數(shù),我們就可以非常方便按照實(shí)際需求,控制從Master端到Slave端的Binlog量盡可能的少,從而減小Master端到Slave端的網(wǎng)絡(luò)流量,減少I(mǎi)O線程的IO量,還能減少SQL線程的解析與應(yīng)用SQL的數(shù)量,最終達(dá)到改善Slave上的數(shù)據(jù)延時(shí)問(wèn)題。

實(shí)際上,上面這八個(gè)參數(shù)中的前面兩個(gè)是設(shè)置在Master端的,而后面六個(gè)參數(shù)則是設(shè)置在Slave端的。雖然前面兩個(gè)參數(shù)和后面六個(gè)參數(shù)在功能上并沒(méi)有非常直接的關(guān)系,但是對(duì)于優(yōu)化MySQL的Replication來(lái)說(shuō)都可以啟到相似的功能。當(dāng)然也有一定的區(qū)別,其主要區(qū)別如下:

如果在Master端設(shè)置前面兩個(gè)參數(shù),不僅僅會(huì)讓Master端的Binlog記錄所帶來(lái)的IO量減少,還會(huì)讓Master端的IO線程就可以減少Binlog的讀取量,傳遞給Slave端的IO線程的Binlog量自然就會(huì)較少。這樣做的好處是可以減少網(wǎng)絡(luò)IO,減少Slave端IO線程的IO量,減少Slave端的SQL線程的工作量,從而最大幅度的優(yōu)化復(fù)制性能。當(dāng)然,在Master端設(shè)置也存在一定的弊端,因?yàn)镸ySQL的判斷是否需要復(fù)制某個(gè)Event不是根據(jù)產(chǎn)生該Event的Query所更改的數(shù)據(jù)


所在的DB,而是根據(jù)執(zhí)行Query時(shí)刻所在的默認(rèn)Schema,也就是我們登錄時(shí)候指定的DB或者運(yùn)行“USEDATABASE”中所指定的DB。只有當(dāng)前默認(rèn)DB和配置中所設(shè)定的DB完全吻合的時(shí)候IO線程才會(huì)將該Event讀取給Slave的IO線程。所以如果在系統(tǒng)中出現(xiàn)在默認(rèn)DB和設(shè)定需要復(fù)制的DB不一樣的情況下改變了需要復(fù)制的DB中某個(gè)Table的數(shù)據(jù)的時(shí)候,該Event是不會(huì)被復(fù)制到Slave中去的,這樣就會(huì)造成Slave端的數(shù)據(jù)和Master的數(shù)據(jù)不一致的情況出現(xiàn)。同樣,如果在默認(rèn)Schema下更改了不需要復(fù)制的Schema中的數(shù)據(jù),則會(huì)被復(fù)制到Slave端,當(dāng)Slave端并沒(méi)有該Schema的時(shí)候,則會(huì)造成復(fù)制出錯(cuò)而停止。

而如果是在Slave端設(shè)置后面的六個(gè)參數(shù),在性能優(yōu)化方面可能比在Master端要稍微遜色一點(diǎn),因?yàn)椴还苁切枰€是不需要復(fù)制的Event都被會(huì)被IO線程讀取到Slave端,這樣不僅僅增加了網(wǎng)絡(luò)IO量,也給Slave端的IO線程增加了RelayLog的寫(xiě)入量。但是仍然可以減少Slave的SQL線程在Slave端的日志應(yīng)用量。雖然性能方面稍有遜色,但是在Slave端設(shè)置復(fù)制過(guò)濾機(jī)制,可以保證不會(huì)出現(xiàn)因?yàn)槟J(rèn)Schema的問(wèn)題而造成Slave和Master數(shù)據(jù)不一致或者復(fù)制出錯(cuò)的問(wèn)題。

3)慢查詢(xún)?nèi)罩綫uery Log 相關(guān)參數(shù)及使用建議
再來(lái)看看SlowQueryLog的相關(guān)參數(shù)配置。有些時(shí)候,我們?yōu)榱硕ㄎ幌到y(tǒng)中效率比較地下的Query語(yǔ)句,則需要打開(kāi)慢查詢(xún)?nèi)罩?,也就是SlowQueryLog。我們可以如下查看系統(tǒng)慢查詢(xún)?nèi)罩镜南嚓P(guān)設(shè)置:

mysql> show variables like 'log_slow%'; 
+------------------+-------+ 
| Variable_name | Value | 
+------------------+-------+ 
| log_slow_queries | ON | 
+------------------+-------+ 
1 row in set (0.00 sec) 
 
mysql> show variables like 'long_query%'; 
+-----------------+-------+ 
| Variable_name | Value | 
+-----------------+-------+ 
| long_query_time | 1 | 
+-----------------+-------+ 
1 row in set (0.01 sec) 

“l(fā)og_slow_queries”參數(shù)顯示了系統(tǒng)是否已經(jīng)打開(kāi)SlowQueryLog功能,而“l(fā)ong_query_time”參數(shù)則告訴我們當(dāng)前系統(tǒng)設(shè)置的SlowQuery記錄執(zhí)行時(shí)間超過(guò)多長(zhǎng)的Query。在MySQLAB發(fā)行的MySQL版本中SlowQueryLog可以設(shè)置的最短慢查詢(xún)時(shí)間為1秒,這在有些時(shí)候可能沒(méi)辦法完全滿足我們的要求,如果希望能夠進(jìn)一步縮短慢查詢(xún)的時(shí)間限制,可以使用Percona提供的microslow-patch(件成為mslPatch)來(lái)突破該限制。mslpatch不僅僅能將慢查詢(xún)時(shí)間減小到毫秒級(jí)別,同時(shí)還能通過(guò)一些特定的規(guī)則來(lái)過(guò)濾記錄的SQL,如僅記錄涉及到某個(gè)表的SlowQuery等等附加功能。

打開(kāi)SlowQueryLog功能對(duì)系統(tǒng)性能的整體影響沒(méi)有Binlog那么大,畢竟SlowQueryLog的數(shù)據(jù)量比較小,帶來(lái)的IO損耗也就較小,但是,系統(tǒng)需要計(jì)算每一條Query的執(zhí)行時(shí)間,所以消耗總是會(huì)有一些的,主要是CPU方面的消耗。如果大家的系統(tǒng)在CPU資源足夠豐富的時(shí)候,可以不必在乎這一點(diǎn)點(diǎn)損耗,畢竟他可能會(huì)給我們帶來(lái)更大性能優(yōu)化的收獲。但如果我們的CPU資源也比較緊張的時(shí)候,也完全可以在大部分時(shí)候關(guān)閉該功能,而只需要間斷性的打開(kāi)SlowQueryLog功能來(lái)定位可能存在的慢查詢(xún)。

MySQL的其他日志由于使用很少(QueryLog)或者性能影響很少,在此就不做過(guò)多分析了。

以上這篇Mysql數(shù)據(jù)庫(kù)之Binlog日志使用總結(jié)(必看篇)就是小編分享給大家的全部?jī)?nèi)容了,希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。

您可能感興趣的文章:
  • Mysql數(shù)據(jù)庫(kù)清理binlog日志命令詳解
  • MySQL讀取Binlog日志常見(jiàn)的3種錯(cuò)誤
  • mysql binlog(二進(jìn)制日志)查看方法
  • mysql 正確清理binlog日志的兩種方法
  • 解說(shuō)mysql之binlog日志以及利用binlog日志恢復(fù)數(shù)據(jù)的方法
  • MySQL 自動(dòng)清理binlog日志的方法
  • 教你自動(dòng)恢復(fù)MySQL數(shù)據(jù)庫(kù)的日志文件(binlog)
  • [MySQL binlog]mysql如何徹底解析Mixed日志格式的binlog
  • mysql binlog二進(jìn)制日志詳解
  • 解析MySQL binlog

標(biāo)簽:南寧 中衛(wèi) 阿里 上海 鄂州 張家界 浙江 定西

巨人網(wǎng)絡(luò)通訊聲明:本文標(biāo)題《Mysql數(shù)據(jù)庫(kù)之Binlog日志使用總結(jié)(必看篇)》,本文關(guān)鍵詞  Mysql,數(shù)據(jù)庫(kù),之,Binlog,日志,;如發(fā)現(xiàn)本文內(nèi)容存在版權(quán)問(wèn)題,煩請(qǐng)?zhí)峁┫嚓P(guān)信息告之我們,我們將及時(shí)溝通與處理。本站內(nèi)容系統(tǒng)采集于網(wǎng)絡(luò),涉及言論、版權(quán)與本站無(wú)關(guān)。
  • 相關(guān)文章
  • 下面列出與本文章《Mysql數(shù)據(jù)庫(kù)之Binlog日志使用總結(jié)(必看篇)》相關(guān)的同類(lèi)信息!
  • 本頁(yè)收集關(guān)于Mysql數(shù)據(jù)庫(kù)之Binlog日志使用總結(jié)(必看篇)的相關(guān)信息資訊供網(wǎng)民參考!
  • 推薦文章