前言
本文主要給大家介紹了關于Mysql提升大數據表拷貝效率的相關內容,分享出來供大家參考學習,我們大家在工作上會經常遇到量級比較大的數據表 ;
場景: 該數據表需要進行alter操作 比如增加一個字段,減少一個字段. 這個在一個幾萬級別數據量的數據表可以直接進行alter表操作,但是要在一個接近1000W的數據表進行操作,不是一件容易的事;
可能情況:
1.導致數據庫崩潰或者卡死
2.導致其他進程 進行數據庫讀寫I/O變慢
3.還有一個可能就是數據格式不一致 導致數據無法寫入(比如一個varchar類型要改為int類型,當數據長度過大時會報錯)
解決方案:--
1.重新創建一張數據表 create new_table select * from old_table
這種形式相當于復制一張新的數據表 ----(不建議): 這里面僅僅復制數據表的字段和數據 , 但是表結構 主鍵,索引和默認值都不會拷貝過來
2.分成兩個步驟
1). create new_table like old_table
創建一個新表,表結構和old_table一致(包含主鍵,索引和默認值等)
2). insert into new_table select * from old_table
把old_table的數據全部拷貝到new_table里面去
----(如果數據量少的話,在幾萬行左右建議使用此方案, 如果數據量到達數百萬 上千萬時, 這個也是不適用的)
擴展: 如果你只要拷貝一部分數據表的話,可以指定 insert into new_table (字段1,字段2) select 字段1,字段2 from old_table [limit n,m] ;
3.
1).通過select from into outfile
命令來導出數據表數據
2).通過load data infile into
命令來導入數據表數據
不多廢話 直接看圖,感受下100萬左右的數據量 方案2 和 方案3 處理速度相差多少
>select * from money_info into outfile '/var/lib/mysql-files/money.txt';
>create table money_info_cyq11 like money_info;
>load data infile '/var/lib/mysql-files/money.txt' into table money_info_cyq11;
>create table money_info_cyq22 like money_info;
>insert into money_info_cyq22 select * from money_info;


速度在4倍左右,網上說的20倍還沒體驗到[捂臉]
注:這里還存在一個問題

outfile的目錄是有要求的
>show variables like '%secure%';
通過這條命令可以看到secure_file_priv 對應out_file的目錄在哪個位置 , 指定這個位置導出即可;

總結
以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,如果有疑問大家可以留言交流,謝謝大家對腳本之家的支持。
您可能感興趣的文章:- mysql 通過拷貝數據文件的方式進行數據庫遷移實例
- MySQL備份與恢復之熱拷貝(4)
- MySQL中大數據表增加字段的實現思路