閱讀616 返回首頁    go 技術社區[雲棲]


高可用架構-- MySQL主從複製的配置

環境

操作係統:CentOS-6.6-x86_64-bin-DVD1.iso

MySQL版本:mysql-5.6.26.tar.gz

主節點IP192.168.1.205     主機名:edu-mysql-01

從節點IP192.168.1.206     主機名:edu-mysql-02

主機配置:4CPU4G內存

 

依賴課程

《高可用架構篇--13--MySQL源碼編譯安裝(CentOS-6.6+MySQL-5.6)》

 

MySQL主從複製官方文檔

https://dev.mysql.com/doc/refman/5.6/en/replication.html

 

MySQL主從複製的方式

MySQL5.6開始主從複製有兩種方式:基於日誌(binlog)、基於GTID(全局事務標示符)。

本教程主要講基於日誌(binlog)的複製。

 

MySQL主從複製(也稱A/B複製)的原理

(1) Master將數據改變記錄到二進製日誌(binary log)中,也就是配置文件log-bin指定的文件,這些記錄叫做二進製日誌事件(binary log events)

(2) Slave通過I/O線程讀取Master中的binary log events並寫入到它的中繼日誌(relay log)

(3) Slave重做中繼日誌中的事件,把中繼日誌中的事件信息一條一條的在本地執行一次,完成數據在本地的存儲,從而實現將改變反映到它自己的數據(數據重放)

                                              face/A53MzTmwcmA6ZZweaj8waTjW8kyAbmj3.jpg

主從配置需要注意的點

(1)主從服務器操作係統版本和位數一致;

(2) MasterSlave數據庫的版本要一致

(3) MasterSlave數據庫中的數據要一致

(4) Master開啟二進製日誌,MasterSlaveserver_id在局域網內必須唯一

 

主從配置的簡要步驟


1Master上的配置

(1) 安裝數據庫;

(2) 修改數據庫配置文件,指明server_id,開啟二進製日誌(log-bin)

(3) 啟動數據庫,查看當前是哪個日誌,position號是多少;

(4) 登錄數據庫,授權數據複製用戶(IP地址為從機IP地址,如果是雙向主從,這裏的還需要授權本機的IP地址,此時自己的IP地址就是從IP地址)

(5) 備份數據庫(記得加鎖和解鎖);

(6) 傳送備份數據到Slave上;

(7) 啟動數據庫;

以下步驟,為單向主從搭建成功,想搭建雙向主從需要的步驟:

(1) 登錄數據庫,指定Master的地址、用戶、密碼等信息(此步僅雙向主從時需要);

(2) 開啟同步,查看狀態;


2Slave上的配置

(1) 安裝數據庫;

(2) 修改數據庫配置文件,指明server_id(如果是搭建雙向主從的話,也要開啟二進製日誌log-bin);

(3) 啟動數據庫,還原備份;

(4) 查看當前是哪個日誌,position號是多少(單向主從此步不需要,雙向主從需要);

(5) 指定Master的地址、用戶、密碼等信息;

(6) 開啟同步,查看狀態。

 

單向主從環境(也稱MySQL A/B複製)的搭建


1Master192.168.1.205)和Slave192.168.1.206)上都安裝了相同版本的數據庫(mysql-5.6.26.tar.gz),參考《高可用架構篇--13--MySQL源碼編譯安裝(CentOS6.6+MySQL5.6)》。

注意:兩台數據庫服務器的的selinux都要disable(永久關閉selinux,請修改/etc/selinux/config,將SELINUX改為disabled

 

2、修改Master的配置文件/etc/my.cnf

[root@edu-mysql-01 ~]# vi /etc/my.cnf

##  [mysqld] 中增加以下配置項

## 設置server_id,一般設置為IP

server_id=205

## 複製過濾:需要備份的數據庫,輸出binlog

#binlog-do-db=roncoo

## 複製過濾:不需要備份的數據庫,不輸出(mysql庫一般不同步)

binlog-ignore-db=mysql

## 開啟二進製日誌功能,可以隨便取,最好有含義

log-bin=edu-mysql-bin

## 為每個session 分配的內存,在事務過程中用來存儲二進製日誌的緩存

binlog_cache_size=1M

## 主從複製的格式(mixed,statement,row,默認格式是statement

binlog_format=mixed

## 二進製日誌自動刪除/過期的天數。默認值為0,表示不自動刪除。

expire_logs_days=7

## 跳過主從複製中遇到的所有錯誤或指定類型的錯誤,避免slave端複製中斷。

## 如:1062錯誤是指一些主鍵重複,1032錯誤是因為主從數據庫數據不一致

slave_skip_errors=1062

 

(如想了解以上參數的更多詳細解析,大家可以直接百度參數名)

 

2.1 複製過濾可以讓你隻複製服務器中的一部分數據,有兩種複製過濾:

(1)     Master上過濾二進製日誌中的事件;

(2)     Slave上過濾中繼日誌中的事件。如下:

face/RCN5T8EwsEatQCaEpwQ4mzmnpH6zAAT6.jpg

 

2.2 MySQL對於二進製日誌 (binlog)的複製類型

(1) 基於語句的複製:在Master上執行的SQL語句,在Slave上執行同樣的語句。MySQL默認采用基於語句的複製,效率比較高。一旦發現沒法精確複製時,會自動選著基於行的複製。   

(2) 基於行的複製:把改變的內容複製到Slave,而不是把命令在Slave上執行一遍。從MySQL5.0開始支持。

(3) 混合類型的複製:默認采用基於語句的複製,一旦發現基於語句的無法精確的複製時,就會采用基於行的複製。

 

3、啟動/重啟Master數據庫服務,登錄數據庫,創建數據同步用戶,並授予相應的權限

[root@edu-mysql-01 ~]# service mysql restart

Shutting down MySQL..[  OK  ]

Starting MySQL..[  OK  ]

[root@edu-mysql-01 ~]# mysql -uroot -p

Enter password:

Welcome to the MySQL monitor.  Commands end with ; or \g.

Your MySQL connection id is 1

Server version: 5.6.26-log Source distribution

 

Copyright (c) 2000, 2015, Oracle and/or its affiliates. All rights reserved.

 

Oracle is a registered trademark of Oracle Corporation and/or its

affiliates. Other names may be trademarks of their respective

owners.

 

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

##創建數據同步用戶,並授予相應的權限

mysql> grant replication slave, replication client on *.* to 'repl'@'192.168.1.206' identified by 'roncoo.123';

Query OK, 0 rows affected (0.00 sec)

## 刷新授權表信息

mysql> flush privileges;

Query OK, 0 rows affected (0.00 sec)

## 查看position號,記下position號(從機上需要用到這個position號和現在的日誌文件)

mysql> show master status;

face/6PEQEadc3z6freGyMnpJ7tAR7WBePKfH.png

 

4、創建roncoo庫、表,並寫入一定量的數據,用於模擬現有的業務係統數據庫

create database if not exists roncoo default charset utf8 collate utf8_general_ci;

use roncoo;

DROP TABLE IF EXISTS `edu_user`;

CREATE TABLE `edu_user` (

  `Id` int(11) NOT NULL AUTO_INCREMENT,

  `userName` varchar(255) NOT NULL DEFAULT '' COMMENT '用戶名',

  `pwd` varchar(255) NOT NULL DEFAULT '' COMMENT '密碼',

  PRIMARY KEY (`Id`)

) ENGINE=InnoDB AUTO_INCREMENT=2 DEFAULT CHARSET=utf8 COMMENT='用戶信息表';

INSERT INTO `edu_user` VALUES (1,'吳水成','123456'),(2,'清風','123456'),(3,'龍果','roncoo.com');

 

5、為保證MasterSlave的數據一致,我們采用主備份,從還原來實現初始數據一致

## 先臨時鎖表

mysql> flush tables with read lock;

Query OK, 0 rows affected (0.00 sec)

## 這裏我們實行全庫備份,在實際中,我們可能隻同步某一個庫,那也可以隻備份一個庫

 [root@edu-mysql-01 ~]# mysqldump -p3306 -uroot -p --add-drop-table roncoo > /tmp/edu-master-roncoo.sql;

Warning: Using a password on the command line interface can be insecure.

Enter password:

[root@edu-mysql-01 ~]# cd /tmp

[root@edu-mysql-01 tmp]# ll

total 644

-rw-r--r--  1 root root 644266 Dec 20 04:10 edu-master-roncoo.sql

## 注意:實際生產環境中大數據量(超2G數據)的備份,建議不要使用mysqldump進行比分,因為會非常慢。此時推薦使用 XtraBackup 進行備份。

 

## 解鎖表

mysql> unlock tables;

Query OK, 0 rows affected (0.00 sec)

 

Master上備份的數據遠程傳送到Slave上,以用於Slave配置時恢複數據

[root@edu-mysql-01 ~]# scp /tmp/edu-master-roncoo.sql root@192.168.1.206:/tmp/

root@192.168.1.206's password:

edu-master-roncoo.sql                        100%  629KB 629.2KB/s   00:00   

[root@edu-mysql-01 ~]#

 

6、接下來處理Slave192.168.1.206),配置文件隻需修改一項,其餘配置用命令來操作

[root@edu-mysql-02 ~]# vi /etc/my.cnf

##  [mysqld] 中增加以下配置項

## 設置server_id,一般設置為IP

server_id=206

## 複製過濾:需要備份的數據庫,輸出binlog

#binlog-do-db=roncoo

##複製過濾:不需要備份的數據庫,不輸出(mysql庫一般不同步)

binlog-ignore-db=mysql

## 開啟二進製日誌,以備Slave作為其它SlaveMaster時使用

log-bin=edu-mysql-slave1-bin

## 為每個session 分配的內存,在事務過程中用來存儲二進製日誌的緩存

binlog_cache_size = 1M

## 主從複製的格式(mixed,statement,row,默認格式是statement

binlog_format=mixed

## 二進製日誌自動刪除/過期的天數。默認值為0,表示不自動刪除。

expire_logs_days=7

## 跳過主從複製中遇到的所有錯誤或指定類型的錯誤,避免slave端複製中斷。

## 如:1062錯誤是指一些主鍵重複,1032錯誤是因為主從數據庫數據不一致

slave_skip_errors=1062

## relay_log配置中繼日誌

relay_log=edu-mysql-relay-bin

## log_slave_updates表示slave將複製事件寫進自己的二進製日誌

log_slave_updates=1

## 防止改變數據(除了特殊的線程)

read_only=1

 

如果Slave為其它SlaveMaster時,必須設置bin_log。在這裏,我們開啟了二進製日誌,而且顯式的命名(默認名稱為hostname,但是,如果hostname改變則會出現問題)

relay_log配置中繼日誌,log_slave_updates表示slave將複製事件寫進自己的二進製日誌。

當設置log_slave_updates時,你可以讓slave扮演其它slavemaster。此時,slaveSQL線程執行的事件寫進行自己的二進製日誌(binary log),然後,它的slave可以獲取這些事件並執行它。如下圖所示(發送複製事件到其它Slave):

face/hdeGZQCQhAanR3rFS4sXBCzmKE6FybdN.jpg

 

7、保存後重啟MySQL服務,還原備份數據

[root@edu-mysql-02 ~]# service mysql restart

Shutting down MySQL..[  OK  ]

Starting MySQL..[  OK  ]

 

Slave上創建相同庫:

create database if not exists roncoo default charset utf8 collate utf8_general_ci;

use roncoo;

 

導入數據

[root@edu-mysql-02 ~]# mysql -uroot -p roncoo < /tmp/edu-master-roncoo.sql

Enter password:

[root@edu-mysql-02 ~]#

 

8、登錄Slave數據庫,添加相關參數

MasterIP、端口、同步用戶、密碼、position號、讀取哪個日誌文件)

[root@edu-mysql-02 ~]# mysql -uroot -p

Enter password:

Welcome to the MySQL monitor.  Commands end with ; or \g.

Your MySQL connection id is 3

Server version: 5.6.26-log Source distribution

 

Copyright (c) 2000, 2015, Oracle and/or its affiliates. All rights reserved.

 

Oracle is a registered trademark of Oracle Corporation and/or its

affiliates. Other names may be trademarks of their respective

owners.

 

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

 

mysql> change master to master_host='192.168.1.205', master_user='repl', master_password='roncoo.123', master_port=3306, master_log_file='edu-mysql-bin.000001', master_log_pos=1389, master_connect_retry=30;

Query OK, 0 rows affected, 2 warnings (0.01 sec)

 

上麵執行的命令的解釋:

master_host='192.168.1.205'                  ## MasterIP地址

master_user='repl'                             ## 用於同步數據的用戶(在Master中授權的用戶)

master_password='roncoo.123'     ## 同步數據用戶的密碼

master_port=3306                              ## Master數據庫服務的端口

master_log_file='edu-mysql-bin.000001'        ##指定Slave從哪個日誌文件開始讀複製數據(可在Master上使用show master status查看到日誌文件名)

master_log_pos=429                         ## 從哪個POSITION號開始讀

master_connect_retry=30  ##當重新建立主從連接時,如果連接建立失敗,間隔多久後重試。單位為秒,默認設置為60秒,同步延遲調優參數。

 

## 查看主從同步狀態

mysql> show slave status\G;

可看到Slave_IO_State為空, Slave_IO_RunningSlave_SQL_RunningNo,表明Slave還沒有開始複製過程。

 

## 開啟主從同步

mysql> start slave;

Query OK, 0 rows affected (0.00 sec)

## 再查看主從同步狀態

mysql> show slave status\G;

face/YKJXZzPC72ihBzmY3J8xK6xCbaY3mS74.png

face/bbaQdZh7Kd238Jnnr4pyBSpXSzQBsCdH.png

主要看以下兩個參數,這兩個參數如果是Yes就表示主從同步正常

Slave_IO_Running: Yes

Slave_SQL_Running: Yes

由截圖中的主從同步狀態信息可以看出,我們配置的主從同步是正常的。

 

可查看masterslave上線程的狀態。在master上,可以看到slaveI/O線程創建的連接:

Master : mysql> show processlist\G;

face/Cj5N8Smfd4j2QD7ndPNnnQfJYSnCzpY4.png

1.row 為處理slaveI/O線程的連接。

 2.row 為處理MySQL客戶端連接線程。

 3.row 為處理本地命令行的線程。

 

Slave : mysql> show processlist\G;


face/aahwBbjDhetYh3BXwyGTcwA3xbrzXKsy.png1.row I/O線程狀態。

2.row SQL線程狀態。

3.row 為處理本地命令行的線程。

 

9、主從數據複製同步測試

(1) Master中的roncoo庫上變更數據的同步測試;

mysql> INSERT INTO `edu_user` VALUES (4,'同步測試1','123456'),(5,'同步測試2','123456');

 

Master中添加完之後,登錄Slave中查看數據是否已同步。

 

(2) Master上新建一個ron

mysql> create database if not exists ron default charset utf8 collate utf8_general_ci;

Slave中查看數據庫

mysql> show databases;

最終的測試結果是,在Master中的操作,都成功同步到了Slave

 

10、測試過程中,如果遇到同步出錯,可在Slave上重置主從複製設置(選操作):

(1) mysql> reset slave;

(2) mysql> change master to master_host='192.168.1.205',

master_user='repl',

master_password='roncoo.123',

master_port=3306,

master_log_file='edu-mysql-bin.00000x',  

master_log_pos=xx,

master_connect_retry=30;

(此時,master_log_filemaster_log_pos要在Master中用show master status 命令查看)

 

注意:如果在Slave沒做隻讀控製的情況下,千萬不要在Slave中手動插入數據,那樣數據就會不一致,主從就會斷開,就需要重新配置了。

 

11、上麵所搭建的是單向複製的主從,也是用的比較多的,而雙向主從其實就是MasterSlave都開啟日誌功能,然後在Master執行授權用戶(這裏授權的是自己作為從服務器,也就是這裏的IP地址是MasterIP地址),然後再在Master上進行chang master操作。

 

MySQL主從數據同步延遲問題的調優

基於局域網的Master/Slave機製在通常情況下已經可以滿足“實時”備份的要求了。如果延遲比較大,可以從以下幾個因素進行排查:

(1) 網絡延遲;

(2) Master負載過高;

(3) Slave負載過高;

一般的做法是使用多台Slave來分攤讀請求,再單獨配置一台Slave隻作為備份用,不進行其他任何操作,就能相對最大限度地達到“實時”的要求了。

 

兩個可以減少主從複製延遲的參數(按需配置)

MySQL可以指定3個參數,用於複製線程重連主庫:--master-retry-count--master-connect-retry--slave-net-timeout 。其中 master-connect-retry  master-retry-count 需要在 Change Master 搭建主備複製時指定,而 slave-net-timeout 是一個全局變量,可以在 MySQL 運行時在線設置。具體的重試策略為:備庫過了 slave-net-timeout 秒還沒有收到主庫來的數據,它就會開始第一次重試。然後每過 master-connect-retry 秒,備庫會再次嚐試重連主庫。直到重試了 master-retry-count 次,它才會放棄重試。如果重試的過程中,連上了主庫,那麼它認為當前主庫是好的,又會開始 slave-net-timeout 秒的等待。slave-net-timeout 的默認值是 3600 秒,master-connect-retry 默認為 60 秒,master-retry-count 默認為 86400 次。也就是說,如果主庫一個小時都沒有任何數據變更發送過來,備庫才會嚐試重連主庫。這就是為什麼在我們模擬的場景下,一個小時後,備庫才會重連主庫,繼續同步數據變更的原因。

這樣的話,如果你的主庫上變更比較頻繁,可以考慮將 slave-net-timeout 設置的小一點,避免主庫 Binlog dump 線程終止了,無法將最新的更新推送過來。當然 slave-net-timeout 設置的過小也有問題,這樣會導致如果主庫的變更確實比較少的時候,備庫頻繁的重新連接主庫,造成資源浪費。

 

slave-net-timeout=seconds

參數說明:當SlaveMaster數據庫讀取log數據失敗後,等待多久重新建立連接並獲取數據,單位為秒,默認設置為3600秒。

 

在做MySQL Slave的時候經常會遇到很多錯誤,需要根據具體原因跨過錯誤繼續同步,但有時候是因為網絡不穩定、網絡閃斷造成同步不正常,如果Slave機器非常多的情況下,一個一個登錄服務器去stop slavestart slave變得無聊而且重複。從MySQL5.1開始支持的解決方案配置:

master-connect-retry=seconds

參數說明:在主服務器宕機或連接丟失的情況下,從服務器線程重新嚐試連接主服務器之前睡眠的秒數。如果主服務器.info文件中的值可以讀取則優先使用。如果未設置,默認值為60

通常配置以上2個參數可以減少網絡問題導致的主從數據同步延遲。

一般網絡問題的錯誤是:

[ERROR] Error reading packet from server: Lost connection to MySQL server during query (server_errno=xxxx)

[ERROR] Slave I/O thread: Failed reading log event, reconnecting to retry, log ‘edu-mysql-bin.000256’  position 23456

 

 

推薦參考鏈接:

https://www.it165.net/database/html/201311/4851.html

https://blog.csdn.net/hguisu/article/details/7325124

https://www.woqutech.com/?p=1116

https://blog.chinaunix.net/uid-10661836-id-4116512.html

https://my.oschina.net/cimu/blog/165019

https://linuxguest.blog.51cto.com/195664/686813/

https://blog.itpub.net/29096438/viewspace-1409405/

https://blog.csdn.net/lxpbs8851/article/details/38455223

https://blog.csdn.net/seteor/article/details/17264633

最後更新:2017-11-07 18:03:53

  上一篇:go  《maven實戰》讀書筆記3——maven使用入門
  下一篇:go  深入淺出了解 JavaScript 中的 this