目錄
- 問(wèn)題描述
- 原理簡(jiǎn)析
- 問(wèn)題分析
- 拓展一下
- 總結(jié)一下
問(wèn)題描述
用戶在主庫(kù)上執(zhí)行了一個(gè) alter 操作,持續(xù)約一小時(shí)。操作完成之后,從庫(kù)發(fā)現(xiàn)存在同步延遲,但是監(jiān)控圖表中的 Seconds_Behind_Master 指標(biāo)顯示為 0,且 binlog 的延遲距離在不斷上升。
原理簡(jiǎn)析
既然是分析延遲時(shí)間,那么自然先從延遲的計(jì)算方式開(kāi)始入手。為了方便起見(jiàn),此處引用官方版本 5.7.31 的源代碼進(jìn)行閱讀。找到計(jì)算延遲時(shí)間的代碼:
./sql/rpl_slave.cc
bool show_slave_status_send_data(THD *thd, Master_info *mi,
char* io_gtid_set_buffer,
char* sql_gtid_set_buffer)
......
if ((mi->get_master_log_pos() == mi->rli->get_group_master_log_pos())
(!strcmp(mi->get_master_log_name(), mi->rli->get_group_master_log_name())))
{
if (mi->slave_running == MYSQL_SLAVE_RUN_CONNECT)
protocol->store(0LL);
else
protocol->store_null();
}
else
{
long time_diff= ((long)(time(0) - mi->rli->last_master_timestamp)
- mi->clock_diff_with_master);
protocol->store((longlong)(mi->rli->last_master_timestamp ?
max(0L, time_diff) : 0));
}
......
從 time_diff 的計(jì)算方式來(lái)看,可以發(fā)現(xiàn)這個(gè)延遲基本上就是一個(gè)時(shí)間差值,然后再算上主從之間的時(shí)間差。不過(guò) if 挺多的,所以借用源代碼文件中的注釋:
/*
The pseudo code to compute Seconds_Behind_Master:
if (SQL thread is running)
{
if (SQL thread processed all the available relay log)
{
if (IO thread is running)
print 0;
else
print NULL;
}
else
compute Seconds_Behind_Master;
}
else
print NULL;
*/
可以知道,Seconds_Behind_Master的計(jì)算分為兩個(gè)部分:
- SQL 線程正常,且回放完所有的 relaylog 時(shí),如果 IO 線程正常,那么直接置 0。
- SQL 線程正常,且回放完所有的 relaylog 時(shí),如果 IO 線程不正常,那么直接置 NULL。
- SQL 線程正常,且沒(méi)有回放完所有的 relaylog 時(shí),計(jì)算延遲時(shí)間。
那么在最后計(jì)算延遲時(shí)間的時(shí)候,看看那幾個(gè)變量代表的意義:
- time(0):當(dāng)前的時(shí)間戳,timestamp 格式的。
- last_master_timestamp:這個(gè) event 在主庫(kù)上執(zhí)行的時(shí)刻,timestamp 格式。
- clock_diff_with_master:slave 和 master 的時(shí)間差,在 IO 線程啟動(dòng)時(shí)獲取的。
由此可見(jiàn),延遲計(jì)算的時(shí)候,實(shí)際上是以 slave 本地的時(shí)間來(lái)減掉回放的這個(gè) event 在 master 執(zhí)行的時(shí)刻,再補(bǔ)償兩者之間的時(shí)間差,最后得到的一個(gè)數(shù)值。從邏輯上看是沒(méi)什么問(wèn)題的,由于 time(0) 和 clock_diff_with_master 在大多數(shù)時(shí)候是沒(méi)有什么出問(wèn)題的機(jī)會(huì)的,所以這次的問(wèn)題,應(yīng)該是出在 last_master_timestamp 上了。
PS:雖說(shuō)大部分時(shí)候沒(méi)問(wèn)題,但是 time(0) 取的是本地時(shí)間,因此 slave 的本地時(shí)間有問(wèn)題的話,這個(gè)最終的值也會(huì)出錯(cuò),不過(guò)不在本案例的問(wèn)題討論范圍之內(nèi)了。
那么找一下執(zhí)行 event 的時(shí)候,計(jì)算last_master_timestamp的邏輯,結(jié)合注釋可以發(fā)現(xiàn)普通復(fù)制和并行復(fù)制用了不同的計(jì)算方式,第一個(gè)是普通的復(fù)制,計(jì)算時(shí)間點(diǎn)在執(zhí)行 event 之前:
./sql/rpl_slave.cc
......
if (ev)
{
enum enum_slave_apply_event_and_update_pos_retval exec_res;
ptr_ev= ev;
/*
Even if we don't execute this event, we keep the master timestamp,
so that seconds behind master shows correct delta (there are events
that are not replayed, so we keep falling behind).
If it is an artificial event, or a relay log event (IO thread generated
event) or ev->when is set to 0, or a FD from master, or a heartbeat
event with server_id '0' then we don't update the last_master_timestamp.
In case of parallel execution last_master_timestamp is only updated when
a job is taken out of GAQ. Thus when last_master_timestamp is 0 (which
indicates that GAQ is empty, all slave workers are waiting for events from
the Coordinator), we need to initialize it with a timestamp from the first
event to be executed in parallel.
*/
if ((!rli->is_parallel_exec() || rli->last_master_timestamp == 0)
!(ev->is_artificial_event() || ev->is_relay_log_event() ||
(ev->common_header->when.tv_sec == 0) ||
ev->get_type_code() == binary_log::FORMAT_DESCRIPTION_EVENT ||
ev->server_id == 0))
{
rli->last_master_timestamp= ev->common_header->when.tv_sec +
(time_t) ev->exec_time;
DBUG_ASSERT(rli->last_master_timestamp >= 0);
}
......
last_master_timestamp的值是取了 event 的開(kāi)始時(shí)間并加上執(zhí)行時(shí)間,在 5.7 中有不少 event 是沒(méi)有執(zhí)行時(shí)間這個(gè)數(shù)值的,8.0 給很多 event 添加了這個(gè)數(shù)值,因此也算是升級(jí) 8.0 之后帶來(lái)的好處。
而并行復(fù)制的計(jì)算方式,參考如下這一段代碼:
./sql/rpl\_slave.cc
......
/*
We need to ensure that this is never called at this point when
cnt is zero. This value means that the checkpoint information
will be completely reset.
*/
/*
Update the rli->last_master_timestamp for reporting correct Seconds_behind_master.
If GAQ is empty, set it to zero.
Else, update it with the timestamp of the first job of the Slave_job_queue
which was assigned in the Log_event::get_slave_worker() function.
*/
ts= rli->gaq->empty()
? 0
: reinterpret_castSlave_job_group*>(rli->gaq->head_queue())->ts;
rli->reset_notified_checkpoint(cnt, ts, need_data_lock, true);
/* end-of "Coordinator::"commit_positions" */
......
在 Coordinator 的 commit_positions 這個(gè)邏輯中,如果 gaq 隊(duì)列為空,那么last_master_timestamp直接置 0,否則會(huì)選擇 gaq 隊(duì)列的第一個(gè) job 的時(shí)間戳。需要補(bǔ)充一點(diǎn)的是,這個(gè)計(jì)算并不是實(shí)時(shí)的,而是間歇性的,在計(jì)算邏輯前面,有如下的邏輯:
/*
Currently, the checkpoint routine is being called by the SQL Thread.
For that reason, this function is called call from appropriate points
in the SQL Thread's execution path and the elapsed time is calculated
here to check if it is time to execute it.
*/
set_timespec_nsec(curr_clock, 0);
ulonglong diff= diff_timespec(curr_clock, rli->last_clock);
if (!force diff period)
{
/*
We do not need to execute the checkpoint now because
the time elapsed is not enough.
*/
DBUG_RETURN(FALSE);
}
即在這個(gè) period 的時(shí)間間隔之內(nèi),會(huì)直接 return,并不會(huì)更新這個(gè)last_master_timestamp,所以有時(shí)候也會(huì)發(fā)現(xiàn)并行復(fù)制會(huì)時(shí)不時(shí)出現(xiàn) Seconds_Behind_Master 在數(shù)值上從 0 到 1 的變化。
而 gaq 隊(duì)列的操作,估計(jì)是類似于入棧退棧的操作,所以留在 gaq 的總是沒(méi)有執(zhí)行完的事務(wù),因此時(shí)間計(jì)算從一般場(chǎng)景的角度來(lái)看是沒(méi)問(wèn)題。
問(wèn)題分析
原理簡(jiǎn)析中簡(jiǎn)要闡述了整個(gè)計(jì)算的邏輯,那么回到這個(gè)問(wèn)題本身,騰訊云數(shù)據(jù)庫(kù) MySQL 默認(rèn)是開(kāi)啟了并行復(fù)制的,因此會(huì)存在 gaq 隊(duì)列,而 alter 操作耗時(shí)非常的長(zhǎng),不論 alter 操作是否會(huì)被放在一組并行事務(wù)中執(zhí)行(大概率,DDL 永遠(yuǎn)是一個(gè)單獨(dú)的事務(wù)組),最終都會(huì)出現(xiàn) gaq 隊(duì)列持續(xù)為空,那么就會(huì)把last_master_timestamp置 0,而參考 Seconds_Behind_Master 的計(jì)算邏輯,最終的 time_diff 也會(huì)被置 0,因此 alter 操作結(jié)束前的延遲時(shí)間一直會(huì)是 0。而當(dāng) alter 操作執(zhí)行完之后,gaq 隊(duì)列會(huì)填充新的 event 和事務(wù),所以會(huì)出現(xiàn)延遲之前一直是 0,但是突然跳到非常高的現(xiàn)象。
拓展一下
對(duì)比普通復(fù)制和并行復(fù)制計(jì)算方式上的差異,可以知道以下幾個(gè)特點(diǎn):
- 開(kāi)啟并行復(fù)制之后,延遲時(shí)間會(huì)經(jīng)常性的在 0 和 1 之間跳變。
- alter 操作,單個(gè)大事務(wù)等在并行復(fù)制的場(chǎng)景下容易導(dǎo)致延遲時(shí)間不準(zhǔn),而普通的復(fù)制方式不會(huì)。
- 由于主從時(shí)間差是在 IO 線程啟動(dòng)時(shí)就計(jì)算好的,所以期間 slave 的時(shí)間出現(xiàn)偏差之后,延遲時(shí)間也會(huì)出現(xiàn)偏差。
總結(jié)一下
嚴(yán)謹(jǐn)?shù)难舆t判斷,還是依靠 GTID 的差距和 binlog 的 position 差距會(huì)比較好,從 8.0 的 event 執(zhí)行時(shí)間變化來(lái)看,至少 Oracle 官方還是在認(rèn)真干活的,希望這些小毛病能盡快的修復(fù)吧。
以上就是MySQL 發(fā)生同步延遲時(shí)Seconds_Behind_Master還為0的原因的詳細(xì)內(nèi)容,更多關(guān)于MySQL 同步延遲Seconds_Behind_Master為0的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
您可能感興趣的文章:- 詳解MySQL的Seconds_Behind_Master
- python3文件復(fù)制、延遲文件復(fù)制任務(wù)的實(shí)現(xiàn)方法
- docker實(shí)現(xiàn)mysql主從復(fù)制的示例代碼
- MySQL數(shù)據(jù)庫(kù) Load Data 多種用法
- MySQL數(shù)據(jù)庫(kù)Shell import_table數(shù)據(jù)導(dǎo)入
- Mysql數(shù)據(jù)庫(kù)的主從同步配置
- Mysql實(shí)現(xiàn)簡(jiǎn)易版搜索引擎的示例代碼
- MySQL命令無(wú)法輸入中文問(wèn)題的解決方式
- 當(dāng)面試官問(wèn)mysql中char與varchar的區(qū)別
- MySQL的從庫(kù)Seconds_Behind_Master延遲總結(jié)