大數據量時Mysql的優化要點

jopen 9年前發布 | 92K 次閱讀 MySQL 數據庫服務器

如今隨著互聯網的發展，數據的量級也是撐指數的增長，從GB到TB到PB。對數據的各種操作也是愈加的困難，傳統的關系性數據庫已經無法滿足快速查詢與插入數據的需求。這個時候NoSQL的出現暫時解決了這一危機。它通過降低數據的安全性，減少對事務的支持，減少對復雜查詢的支持，來獲取性能上的提升。但是，在有些場合NoSQL一些折衷是無法滿足使用場景的，就比如有些使用場景是絕對要有事務與安全指標的。這個時候NoSQL肯定是無法滿足的，所以還是需要使用關系性數據庫。

雖然關系型數據庫在海量數據中遜色于NoSQL數據庫，但是如果你操作正確，它的性能還是會滿足你的需求的。針對數據的不同操作，其優化方向也是不盡相同。對于數據移植，查詢和插入等操作，可以從不同的方向去考慮。而在優化的時候還需要考慮其他相關操作是否會產生影響。就比如你可以通過創建索引提高查詢性能，但是這會導致插入數據的時候因為要建立更新索引導致插入性能降低，你是否可以接受這一降低那。所以，對數據庫的優化是要考慮多個方向，尋找一個折衷的最佳方案。

一：查詢優化

1：創建索引。

最簡單也是最常用的優化就是查詢。因為對于CRUD操作，read操作是占據了絕大部分的比例，所以read的性能基本上決定了應用的性能。對于查詢性能最常用的就是創建索引。經過測試，2000萬條記錄，每條記錄200字節兩列varchar類型的。當不使用索引的時候查詢一條記錄需要一分鐘，而當創建了索引的時候查詢時間可以忽略。但是，當你在已有數據上添加索引的時候，則需要耗費非常大的時間。我插入2000萬條記錄之后，再創建索引大約話費了幾十分鐘的樣子。

創建索引的弊端和場合。雖然創建索引可以很大程度上優化查詢的速度，但是弊端也是很明顯的。一個是在插入數據的時候，創建索引也需要消耗部分的時間，這就使得插入性能在一定程度上降低；另一個很明顯的是數據文件變的更大。在列上創建索引的時候，每條索引的長度是和你創建列的時候制定的長度相同的。比如你創建varchar(100)，當你在該列上創建索引，那么索引的長度則是102字節，因為長度超過64字節則會額外增加2字節記錄索引的長度。

從上圖可以看到我在YCSB_KEY這一列(長度100)上創建了一個名字為index_ycsb_key的索引，每條索引長度都為102，想象一下當數據變的巨大無比的時候，索引的大小也是不可以小覷的。而且從這也可以看出，索引的長度和列類型的長度還不同，比如varchar它是變長的字符類型(請看MySQL數據類型分析)，實際存儲長度是是實際字符的大小，但是索引卻是你聲明的長度的大小。你創建列的時候聲明100字節，那么索引長度就是這個字節再加上2，它不管你實際存儲是多大。

除了創建索引需要消耗時間，索引文件體積會變的越來越大之外，創建索引也需要看的你存儲數據的特征。當你存儲數據很大一部分都是重復記錄，那這個時候創建索引是百害而無一利。請先查看MySQL索引介紹。所以，當很多數據重復的時候，索引帶來的查詢提升的效果是可以直接忽略的，但是這個時候你還要承受插入數據的時候創建索引帶來的性能消耗。

2：緩存的配置。

在MySQL中有多種多樣的緩存，有的緩存負責緩存查詢語句，也有的負責緩存查詢數據。這些緩存內容客戶端無法操作，是由server端來維護的。它會隨著你查詢與修改等相應不同操作進行不斷更新。通過其配置文件我們可以看到在MySQL中的緩存：

在這里主要分析query cache，它是主要用來緩存查詢數據。當你想使用該cache，必須把query_cache_size大小設置為非0。當設置大小為非0的時候，server會就會緩存每次查詢返回的結果，到下次相同查詢server就直接從緩存獲取數據，而不是再執行查詢。能緩存的數據量就和你的size大小設置有關，所以當你設置的足夠大，數據可以完全緩存到內存，速度就會非常之快。

但是，query cache也有它的弊端。當你對數據表做任何的更新操作(update/insert/delete)等操作，server為了保證緩存與數據庫的一致性，會強制刷新緩存數據，導致緩存數據全部失效。所以，當一個表格的更新數據表操作非常多的話，query cache是不會起到查詢提升的性能，還會影響其他操作的性能。

3：slow_query_log分析。

其實對于查詢性能提升，最重要也是最根本的手段也是slow_query的設置。

當你設置slow_query_log為on的時候，server端會對每次的查詢進行記錄，當超過你設置的慢查詢時間 (long_query_time)的時候就把該條查詢記錄到日志。而你對性能進行優化的時候，就可以分析慢查詢日志，對慢查詢的查詢語句進行有目的的優化。可以通過創建各種索引，可以通過分表等操作。那為什么要分庫分表那，當不分庫分表的時候那個地方是限制性能的地方啊。下面我們就簡單介紹。

4：分庫分表

分庫分表應該算是查詢優化的殺手锏了。上述各種措施在數據量達到一定等級之后，能起到優化的作用已經不明顯了。這個時候就必須對數據量進行分流。分流一般有分庫與分表兩種措施。而分表又有垂直切分與水平切分兩種方式。下面我們就針對每一種方式簡單介紹。

對于mysql，其數據文件是以文件形式存儲在磁盤上的。當一個數據文件過大的時候，操作系統對大文件的操作就會比較麻煩與耗時，而且有的操作系統就不支持大文件，所以這個時候就必須分表了。另外對于mysql常用的存儲引擎是Innodb，它的底層數據結構是B+樹。當其數據文件過大的時候，B+樹就會從層次和節點上比較多，當查詢一個節點的時候可能會查詢很多層次，而這必定會導致多次IO操作進行裝載進內存，肯定會耗時的。除此之外還有Innodb對于B+樹的鎖機制。對每個節點進行加鎖，那么當更改表結構的時候，這時候就會樹進行加鎖，當表文件大的時候，這可以認為是不可實現的。

所以綜上我們就必須進行分表與分庫的操作。

5：子查詢優化

在查詢中經常會用到子查詢，在子查詢的時候一般使用in或者exist關鍵詞。針對in和exist在查詢的時候當數據量大到一定程度以后，查詢執行時間就差別比較大。但是，為了避免此類情況出現，最好的方式是使用join查詢。因為在絕大多數情況下，服務器對join的查詢優化要遠遠高于子查詢優化。在比較高的版本5.6，mysql查詢會自動把in查詢優化成joint查詢，就不會出現子查詢比較慢的問題。有時候也可以采用distinct關鍵詞來限制子查詢的數量，但是需要注意的是distinct很多時候會轉化為group by，這個時候就會出現一個 臨時表，就會出現copy數據到臨時表的時延。

更多的子查詢優化請點擊。

二：數據轉移

當數據量達到一定等級之后，那么移庫將是一個非常慎重又危險的工作。在移庫中保證前后數據的一致性，各種突發情況的處理，移庫過程中數據的變遷，每一個都是一個非常困難的問題。

2.1：插入數據

當進行數據遷移的時候，肯定會存在大數據的重新導入，你可以選擇直接load文件，有的時候可能就需要代碼插入了。這個時候就需要對插入語句進行一定的優化了。這個時候可以使用INSERT DELAYED語句，該語句是當你發出插入請求的時候，不是馬上就插入到數據庫而是放在緩存里面，等待時機成熟之后再進行插入。

1、對查詢進行優化、應盡量避免全表掃描、首先應考慮在 where 及 order by 涉及的列上建立索引。

2、應盡量避免在 where 子句中對字段進行 null 值判斷、否則將導致引擎放棄使用索引而進行全表掃描、如：

select id from t where num is null;

--可以在num上設置默認值0、確保表中num列沒有null值、然后這樣查詢：

select id from t where num=0;

3、應盡量避免在 where 子句中使用!=或<>操作符、否則將引擎放棄使用索引而進行全表掃描。

4、應盡量避免在 where 子句中使用 or 來連接條件、否則將導致引擎放棄使用索引而進行全表掃描、如：

select id from t where num=10 or num=20

--可以這樣查詢：

select id from t where num=10

union all

select id from t where num=20;

5、in 和 not in 也要慎用、否則會導致全表掃描、如：

select id from t where num in(1,2,3);

對于連續的數值、能用 between 就不要用 in 了：

select id from t where num between 1 and 3;

6、下面的查詢也將導致全表掃描：

select id from t where name like '%abc%';

--若要提高效率、可以考慮全文檢索。

7、如果在 where 子句中使用參數、也會導致全表掃描。因為SQL只有在運行時才會解析局部變量、但優化程序不能將訪問計劃的選擇推遲到運行時；它必須在編譯時進行選擇。然而、如果在編譯時建立訪問計劃、變量的值還是未知的、因而無法作為索引選擇的輸入項。如下面語句將進行全表掃描：

select id from t where num= @num ;

--可以改為強制查詢使用索引：

select id from t with(index(索引名)) where num= @num ;

8、應盡量避免在 where 子句中對字段進行表達式操作、這將導致引擎放棄使用索引而進行全表掃描。如：

select id from t where num/2=100;

--應改為:

select id from t where num=100*2;

9、應盡量避免在where子句中對字段進行函數操作、這將導致引擎放棄使用索引而進行全表掃描。如：

select id from t where substring(name,1,3)='abc';

--name以abc開頭的id

select id from t where datediff(day,createdate,'2005-11-30')=0;

--‘2005-11-30’生成的id

--應改為:

select id from t where name like 'abc%';

select id from t where createdate>='2005-11-30' and createdate<'2005-12-1';

10、不要在 where 子句中的“=”左邊進行函數、算術運算或其他表達式運算、否則系統將可能無法正確使用索引。

11、在使用索引字段作為條件時、如果該索引是復合索引、那么必須使用到該索引中的第一個字段作為條件時才能保證系統使用該索引、否則該索引將不會被使用、并且應盡可能的讓字段順序與索引順序相一致。

12、不要寫一些沒有意義的查詢、如需要生成一個空表結構：

select col1,col2 into #t from t where 1=0;

--這類代碼不會返回任何結果集、但是會消耗系統資源的、應改成這樣：

create table #t(...);

13、很多時候用 exists 代替 in 是一個好的選擇：

select num from a where num in(select num from b);

--用下面的語句替換：

select num from a where exists(select 1 from b where num=a.num);

14、并不是所有索引對查詢都有效、SQL是根據表中數據來進行查詢優化的、當索引列有大量數據重復時、SQL查詢可能不會去利用索引、如一表中有字段sex、male、female幾乎各一半、那么即使在sex上建了索引也對查詢效率起不了作用。

15、索引并不是越多越好、索引固然可以提高相應的 select 的效率、但同時也降低了 insert 及 update 的效率、因為 insert 或 update 時有可能會重建索引、所以怎樣建索引需要慎重考慮、視具體情況而定。一個表的索引數最好不要超過6個、若太多則應考慮一些不常使用到的列上建的索引是否有必要。

16、應盡可能的避免更新 clustered 索引數據列、因為 clustered 索引數據列的順序就是表記錄的物理存儲順序、一旦該列值改變將導致整個表記錄的順序的調整、會耗費相當大的資源。若應用系統需要頻繁更新 clustered 索引數據列、那么需要考慮是否應將該索引建為 clustered 索引。

17、盡量使用數字型字段、若只含數值信息的字段盡量不要設計為字符型、這會降低查詢和連接的性能、并會增加存儲開銷。這是因為引擎在處理查詢和連接時會逐個比較字符串中每一個字符、而對于數字型而言只需要比較一次就夠了。

18、盡可能的使用 varchar/nvarchar 代替 char/nchar 、因為首先變長字段存儲空間小、可以節省存儲空間、其次對于查詢來說、在一個相對較小的字段內搜索效率顯然要高些。

19、任何地方都不要使用 select * from t 、用具體的字段列表代替“*”、不要返回用不到的任何字段。

20、盡量使用表變量來代替臨時表。如果表變量包含大量數據、請注意索引非常有限（只有主鍵索引）。

21、避免頻繁創建和刪除臨時表、以減少系統表資源的消耗。

22、臨時表并不是不可使用、適當地使用它們可以使某些例程更有效、例如、當需要重復引用大型表或常用表中的某個數據集時。但是、對于一次性事件、最好使用導出表。

23、在新建臨時表時、如果一次性插入數據量很大、那么可以使用 select into 代替 create table、避免造成大量 log 、以提高速度；如果數據量不大、為了緩和系統表的資源、應先create table、然后insert。

24、如果使用到了臨時表、在存儲過程的最后務必將所有的臨時表顯式刪除、先 truncate table 、然后 drop table 、這樣可以避免系統表的較長時間鎖定。

25、盡量避免使用游標、因為游標的效率較差、如果游標操作的數據超過1萬行、那么就應該考慮改寫。

26、使用基于游標的方法或臨時表方法之前、應先尋找基于集的解決方案來解決問題、基于集的方法通常更有效。

27、與臨時表一樣、游標并不是不可使用。對小型數據集使用 FAST_FORWARD 游標通常要優于其他逐行處理方法、尤其是在必須引用幾個表才能獲得所需的數據時。在結果集中包括“合計”的例程通常要比使用游標執行的速度快。如果開發時間允許、基于游標的方法和基于集的方法都可以嘗試一下、看哪一種方法的效果更好。

28、在所有的存儲過程和觸發器的開始處設置 SET NOCOUNT ON 、在結束時設置 SET NOCOUNT OFF 。無需在執行存儲過程和觸發器的每個語句后向客戶端發送 DONE_IN_PROC 消息。

29、盡量避免大事務操作、提高系統并發能力。

30、盡量避免向客戶端返回大數據量、若數據量過大、應該考慮相應需求是否合理。

1. 為查詢緩存優化你的查詢

大多數的MySQL服務器都開啟了查詢緩存。這是提高性最有效的方法之一，而且這是被MySQL的數據庫引擎處理的。當有很多相同的查詢被執行了多次的時候，這些查詢結果會被放到一個緩存中，這樣，后續的相同的查詢就不用操作表而直接訪問緩存結果了。

這里最主要的問題是，對于程序員來說，這個事情是很容易被忽略的。因為，我們某些查詢語句會讓MySQL不使用緩存。請看下面的示例：

// 查詢緩存不開啟

$r = mysql_query( "SELECT username FROM user WHERE signup_date >= CURDATE()" );

// 開啟查詢緩存

$today = date ( "Y-m-d" );

$r = mysql_query( "SELECT username FROM user WHERE signup_date >= '$today'" );

上面兩條SQL語句的差別就是 CURDATE() ，MySQL的查詢緩存對這個函數不起作用。所以，像 NOW() 和 RAND() 或是其它的諸如此類的SQL函數都不會開啟查詢緩存，因為這些函數的返回是會不定的易變的。所以，你所需要的就是用一個變量來代替MySQL的函數，從而開啟緩存。

2. EXPLAIN 你的 SELECT 查詢

使用 EXPLAIN 關鍵字可以讓你知道MySQL是如何處理你的SQL語句的。這可以幫你分析你的查詢語句或是表結構的性能瓶頸。

EXPLAIN 的查詢結果還會告訴你你的索引主鍵被如何利用的，你的數據表是如何被搜索和排序的……等等，等等。

挑一個你的SELECT語句（推薦挑選那個最復雜的，有多表聯接的），把關鍵字EXPLAIN加到前面。你可以使用phpmyadmin來做這個事。然后，你會看到一張表格。下面的這個示例中，我們忘記加上了group_id索引，并且有表聯接：

當我們為 group_id 字段加上索引后：

我們可以看到，前一個結果顯示搜索了 7883 行，而后一個只是搜索了兩個表的 9 和 16 行。查看rows列可以讓我們找到潛在的性能問題。

3. 當只要一行數據時使用 LIMIT 1

當你查詢表的有些時候，你已經知道結果只會有一條結果，但因為你可能需要去fetch游標，或是你也許會去檢查返回的記錄數。

在這種情況下，加上 LIMIT 1 可以增加性能。這樣一樣，MySQL數據庫引擎會在找到一條數據后停止搜索，而不是繼續往后查少下一條符合記錄的數據。

下面的示例，只是為了找一下是否有“中國”的用戶，很明顯，后面的會比前面的更有效率。（請注意，第一條中是Select *，第二條是Select 1）

// 沒有效率的：
$r = mysql_query( "SELECT * FROM user WHERE country = 'China'" );
if (mysql_num_rows( $r ) > 0) {
     // ...
}

// 有效率的：
$r = mysql_query( "SELECT 1 FROM user WHERE country = 'China' LIMIT 1" );
if (mysql_num_rows( $r ) > 0) {
     // ...
}

4. 為搜索字段建索引

索引并不一定就是給主鍵或是唯一的字段。如果在你的表中，有某個字段你總要會經常用來做搜索，那么，請為其建立索引吧。

從上圖你可以看到那個搜索字串 “last_name LIKE ‘a%’”，一個是建了索引，一個是沒有索引，性能差了4倍左右。

另外，你應該也需要知道什么樣的搜索是不能使用正常的索引的。例如，當你需要在一篇大的文章中搜索一個詞時，如： “WHERE post_content LIKE ‘%apple%’”，索引可能是沒有意義的。你可能需要使用MySQL 全文索引或是自己做一個索引（比如說：搜索關鍵詞或是Tag什么的）

5. 在Join表的時候使用相當類型的例，并將其索引

如果你的應用程序有很多 JOIN 查詢，你應該確認兩個表中Join的字段是被建過索引的。這樣，MySQL內部會啟動為你優化Join的SQL語句的機制。

而且，這些被用來Join的字段，應該是相同的類型的。例如：如果你要把 DECIMAL 字段和一個 INT 字段Join在一起，MySQL就無法使用它們的索引。對于那些STRING類型，還需要有相同的字符集才行。（兩個表的字符集有可能不一樣）

// 在state中查找company

$r = mysql_query("SELECT company_name FROM users

LEFT JOIN companies ON (users.state = companies.state)

WHERE users.id = $user_id ");

// 兩個 state 字段應該是被建過索引的，而且應該是相當的類型，相同的字符集。

6. 千萬不要 ORDER BY RAND()

想打亂返回的數據行？隨機挑一個數據？真不知道誰發明了這種用法，但很多新手很喜歡這樣用。但你確不了解這樣做有多么可怕的性能問題。

如果你真的想把返回的數據行打亂了，你有N種方法可以達到這個目的。這樣使用只讓你的數據庫的性能呈指數級的下降。這里的問題是：MySQL會不得不去執行RAND()函數（很耗CPU時間），而且這是為了每一行記錄去記行，然后再對其排序。就算是你用了Limit 1也無濟于事（因為要排序）

下面的示例是隨機挑一條記錄

// 千萬不要這樣做：

$r = mysql_query( "SELECT username FROM user ORDER BY RAND() LIMIT 1" );

// 這要會更好：

$r = mysql_query( "SELECT count(*) FROM user" );

$d = mysql_fetch_row( $r );

$rand = mt_rand(0, $d [0] - 1);

$r = mysql_query( "SELECT username FROM user LIMIT $rand, 1" );

7. 避免 SELECT *

從數據庫里讀出越多的數據，那么查詢就會變得越慢。并且，如果你的數據庫服務器和WEB服務器是兩臺獨立的服務器的話，這還會增加網絡傳輸的負載。

所以，你應該養成一個需要什么就取什么的好的習慣。

// 不推薦

$r = mysql_query( "SELECT * FROM user WHERE user_id = 1" );

$d = mysql_fetch_assoc( $r );

echo "Welcome {$d['username']}" ;

// 推薦

$r = mysql_query( "SELECT username FROM user WHERE user_id = 1" );

$d = mysql_fetch_assoc( $r );

echo "Welcome {$d['username']}" ;

8. 永遠為每張表設置一個ID

我們應該為數據庫里的每張表都設置一個ID做為其主鍵，而且最好的是一個INT型的（推薦使用UNSIGNED），并設置上自動增加的 AUTO_INCREMENT標志。

就算是你 users 表有一個主鍵叫 “email”的字段，你也別讓它成為主鍵。使用 VARCHAR 類型來當主鍵會使用得性能下降。另外，在你的程序中，你應該使用表的ID來構造你的數據結構。

而且，在MySQL數據引擎下，還有一些操作需要使用主鍵，在這些情況下，主鍵的性能和設置變得非常重要，比如，集群，分區……

在這里，只有一個情況是例外，那就是“關聯表”的“外鍵”，也就是說，這個表的主鍵，通過若干個別的表的主鍵構成。我們把這個情況叫做“外鍵”。比如：有一個“學生表”有學生的ID，有一個“課程表”有課程ID，那么，“成績表”就是“關聯表”了，其關聯了學生表和課程表，在成績表中，學生ID和課程ID叫“外鍵”其共同組成主鍵。

9. 使用 ENUM 而不是 VARCHAR

ENUM 類型是非常快和緊湊的。在實際上，其保存的是 TINYINT，但其外表上顯示為字符串。這樣一來，用這個字段來做一些選項列表變得相當的完美。

如果你有一個字段，比如“性別”，“國家”，“民族”，“狀態”或“部門”，你知道這些字段的取值是有限而且固定的，那么，你應該使用 ENUM 而不是 VARCHAR。

MySQL也有一個“建議”（見第十條）告訴你怎么去重新組織你的表結構。當你有一個 VARCHAR 字段時，這個建議會告訴你把其改成 ENUM 類型。使用 PROCEDURE ANALYSE() 你可以得到相關的建議。

10. 從 PROCEDURE ANALYSE() 取得建議

PROCEDURE ANALYSE() 會讓 MySQL 幫你去分析你的字段和其實際的數據，并會給你一些有用的建議。只有表中有實際的數據，這些建議才會變得有用，因為要做一些大的決定是需要有數據作為基礎的。

例如，如果你創建了一個 INT 字段作為你的主鍵，然而并沒有太多的數據，那么，PROCEDURE ANALYSE()會建議你把這個字段的類型改成 MEDIUMINT 。或是你使用了一個 VARCHAR 字段，因為數據不多，你可能會得到一個讓你把它改成 ENUM 的建議。這些建議，都是可能因為數據不夠多，所以決策做得就不夠準。

在phpmyadmin里，你可以在查看表時，點擊 “Propose table structure” 來查看這些建議

一定要注意，這些只是建議，只有當你的表里的數據越來越多時，這些建議才會變得準確。一定要記住，你才是最終做決定的人。

11. 盡可能的使用 NOT NULL

除非你有一個很特別的原因去使用 NULL 值，你應該總是讓你的字段保持 NOT NULL。這看起來好像有點爭議，請往下看。

首先，問問你自己“Empty”和“NULL”有多大的區別（如果是INT，那就是0和NULL）？如果你覺得它們之間沒有什么區別，那么你就不要使用NULL。（你知道嗎？在 Oracle 里，NULL 和 Empty 的字符串是一樣的！)

不要以為 NULL 不需要空間，其需要額外的空間，并且，在你進行比較的時候，你的程序會更復雜。當然，這里并不是說你就不能使用NULL了，現實情況是很復雜的，依然會有些情況下，你需要使用NULL值。

下面摘自MySQL自己的文檔：

“NULL columns require additional space in the row to record whether their values are NULL. For MyISAM tables, each NULL column takes one bit extra, rounded up to the nearest byte.”

12. Prepared Statements

Prepared Statements很像存儲過程，是一種運行在后臺的SQL語句集合，我們可以從使用 prepared statements 獲得很多好處，無論是性能問題還是安全問題。

Prepared Statements 可以檢查一些你綁定好的變量，這樣可以保護你的程序不會受到“SQL注入式”攻擊。當然，你也可以手動地檢查你的這些變量，然而，手動的檢查容易出問題，而且很經常會被程序員忘了。當我們使用一些framework或是ORM的時候，這樣的問題會好一些。

在性能方面，當一個相同的查詢被使用多次的時候，這會為你帶來可觀的性能優勢。你可以給這些Prepared Statements定義一些參數，而MySQL只會解析一次。

雖然最新版本的MySQL在傳輸Prepared Statements是使用二進制形勢，所以這會使得網絡傳輸非常有效率。

當然，也有一些情況下，我們需要避免使用Prepared Statements，因為其不支持查詢緩存。但據說版本5.1后支持了。

在PHP中要使用prepared statements，你可以查看其使用手冊：mysqli 擴展或是使用數據庫抽象層，如： PDO .

// 創建 prepared statement

if ( $stmt = $mysqli ->prepare( "SELECT username FROM user WHERE state=?" )) {

// 綁定參數

$stmt ->bind_param( "s" , $state );

// 執行

$stmt ->execute();

// 綁定結果

$stmt ->bind_result( $username );

// 移動游標

$stmt ->fetch();

printf( "%s is from %s\n" , $username , $state );

$stmt ->close();

}

13. 無緩沖的查詢

正常的情況下，當你在當你在你的腳本中執行一個SQL語句的時候，你的程序會停在那里直到沒這個SQL語句返回，然后你的程序再往下繼續執行。你可以使用無緩沖查詢來改變這個行為。

關于這個事情，在PHP的文檔中有一個非常不錯的說明： mysql_unbuffered_query() 函數：

“mysql_unbuffered_query() sends the SQL query query to MySQL without automatically fetching and buffering the result rows as mysql_query() does. This saves a considerable amount of memory with SQL queries that produce large result sets, and you can start working on the result set immediately after the first row has been retrieved as you don’t have to wait until the complete SQL query has been performed.”

上面那句話翻譯過來是說，mysql_unbuffered_query() 發送一個SQL語句到MySQL而并不像mysql_query()一樣去自動fethch和緩存結果。這會相當節約很多可觀的內存，尤其是那些會產生大量結果的查詢語句，并且，你不需要等到所有的結果都返回，只需要第一行數據返回的時候，你就可以開始馬上開始工作于查詢結果了。

然而，這會有一些限制。因為你要么把所有行都讀走，或是你要在進行下一次的查詢前調用 mysql_free_result()清除結果。而且， mysql_num_rows() 或 mysql_data_seek() 將無法使用。所以，是否使用無緩沖的查詢你需要仔細考慮。

14. 把IP地址存成 UNSIGNED INT

很多程序員都會創建一個 VARCHAR(15) 字段來存放字符串形式的IP而不是整形的IP。如果你用整形來存放，只需要4個字節，并且你可以有定長的字段。而且，這會為你帶來查詢上的優勢，尤其是當你需要使用這樣的WHERE條件：IP between ip1 and ip2。

我們必需要使用UNSIGNED INT，因為 IP地址會使用整個32位的無符號整形。

而你的查詢，你可以使用 INET_ATON() 來把一個字符串IP轉成一個整形，并使用 INET_NTOA() 把一個整形轉成一個字符串IP。在PHP中，也有這樣的函數 ip2long() 和 long2ip() 。

1	$r = "UPDATE users SET ip = INET_ATON('{$_SERVER['REMOTE_ADDR']}') WHERE user_id = $user_id" ;

15. 固定長度的表會更快

如果表中的所有字段都是“固定長度”的，整個表會被認為是 “static” 或 “fixed-length” 。例如，表中沒有如下類型的字段： VARCHAR，TEXT，BLOB。只要你包括了其中一個這些字段，那么這個表就不是“固定長度靜態表”了，這樣，MySQL 引擎會用另一種方法來處理。

固定長度的表會提高性能，因為MySQL搜尋得會更快一些，因為這些固定的長度是很容易計算下一個數據的偏移量的，所以讀取的自然也會很快。而如果字段不是定長的，那么，每一次要找下一條的話，需要程序找到主鍵。

并且，固定長度的表也更容易被緩存和重建。不過，唯一的副作用是，固定長度的字段會浪費一些空間，因為定長的字段無論你用不用，他都是要分配那么多的空間。

使用“垂直分割”技術（見下一條），你可以分割你的表成為兩個一個是定長的，一個則是不定長的。

16. 垂直分割

“垂直分割”是一種把數據庫中的表按列變成幾張表的方法，這樣可以降低表的復雜度和字段的數目，從而達到優化的目的。（以前，在銀行做過項目，見過一張表有100多個字段，很恐怖）

示例一 ：在Users表中有一個字段是家庭地址，這個字段是可選字段，相比起，而且你在數據庫操作的時候除了個人信息外，你并不需要經常讀取或是改寫這個字段。那么，為什么不把他放到另外一張表中呢？這樣會讓你的表有更好的性能，大家想想是不是，大量的時候，我對于用戶表來說，只有用戶ID，用戶名，口令，用戶角色等會被經常使用。小一點的表總是會有好的性能。

示例二 ：你有一個叫 “last_login” 的字段，它會在每次用戶登錄時被更新。但是，每次更新時會導致該表的查詢緩存被清空。所以，你可以把這個字段放到另一個表中，這樣就不會影響你對用戶 ID，用戶名，用戶角色的不停地讀取了，因為查詢緩存會幫你增加很多性能。

另外，你需要注意的是，這些被分出去的字段所形成的表，你不會經常性地去Join他們，不然的話，這樣的性能會比不分割時還要差，而且，會是極數級的下降。

17. 拆分大的 DELETE 或 INSERT 語句

如果你需要在一個在線的網站上去執行一個大的 DELETE 或 INSERT 查詢，你需要非常小心，要避免你的操作讓你的整個網站停止相應。因為這兩個操作是會鎖表的，表一鎖住了，別的操作都進不來了。

Apache 會有很多的子進程或線程。所以，其工作起來相當有效率，而我們的服務器也不希望有太多的子進程，線程和數據庫鏈接，這是極大的占服務器資源的事情，尤其是內存。

如果你把你的表鎖上一段時間，比如30秒鐘，那么對于一個有很高訪問量的站點來說，這30秒所積累的訪問進程/線程，數據庫鏈接，打開的文件數，可能不僅僅會讓你泊WEB服務Crash，還可能會讓你的整臺服務器馬上掛了。

所以，如果你有一個大的處理，你定你一定把其拆分，使用 LIMIT 條件是一個好的方法。下面是一個示例：

while (1) {

//每次只做1000條

mysql_query( "DELETE FROM logs WHERE log_date <= '2009-11-01' LIMIT 1000" );

if (mysql_affected_rows() == 0) {

// 沒得可刪了，退出！

break ;

}

// 每次都要休息一會兒

usleep(50000);

}

18. 越小的列會越快

對于大多數的數據庫引擎來說，硬盤操作可能是最重大的瓶頸。所以，把你的數據變得緊湊會對這種情況非常有幫助，因為這減少了對硬盤的訪問。

參看 MySQL 的文檔 Storage Requirements 查看所有的數據類型。

如果一個表只會有幾列罷了（比如說字典表，配置表），那么，我們就沒有理由使用 INT 來做主鍵，使用 MEDIUMINT, SMALLINT 或是更小的 TINYINT 會更經濟一些。如果你不需要記錄時間，使用 DATE 要比 DATETIME 好得多。

當然，你也需要留夠足夠的擴展空間，不然，你日后來干這個事，你會死的很難看，參看Slashdot 的例子（2009年11月06日），一個簡單的ALTER TABLE語句花了3個多小時，因為里面有一千六百萬條數據。

19. 選擇正確的存儲引擎

在 MySQL 中有兩個存儲引擎 MyISAM 和 InnoDB，每個引擎都有利有弊。酷殼以前文章《MySQL: InnoDB 還是 MyISAM? 》討論和這個事情。

MyISAM 適合于一些需要大量查詢的應用，但其對于有大量寫操作并不是很好。甚至你只是需要update一個字段，整個表都會被鎖起來，而別的進程，就算是讀進程都無法操作直到讀操作完成。另外，MyISAM 對于 SELECT COUNT(*) 這類的計算是超快無比的。

InnoDB 的趨勢會是一個非常復雜的存儲引擎，對于一些小的應用，它會比 MyISAM 還慢。他是它支持“行鎖” ，于是在寫操作比較多的時候，會更優秀。并且，他還支持更多的高級應用，比如：事務。

下面是MySQL的手冊

20. 使用一個對象關系映射器（Object Relational Mapper）

使用 ORM (Object Relational Mapper)，你能夠獲得可靠的性能增漲。一個ORM可以做的所有事情，也能被手動的編寫出來。但是，這需要一個高級專家。

ORM 的最重要的是“Lazy Loading”，也就是說，只有在需要的去取值的時候才會去真正的去做。但你也需要小心這種機制的副作用，因為這很有可能會因為要去創建很多很多小的查詢反而會降低性能。

ORM 還可以把你的SQL語句打包成一個事務，這會比單獨執行他們快得多得多。

目前，個人最喜歡的PHP的ORM是：Doctrine 。

21. 小心“永久鏈接”

“永久鏈接”的目的是用來減少重新創建MySQL鏈接的次數。當一個鏈接被創建了，它會永遠處在連接的狀態，就算是數據庫操作已經結束了。而且，自從我們的Apache開始重用它的子進程后——也就是說，下一次的HTTP請求會重用Apache的子進程，并重用相同的 MySQL 鏈接。

PHP 手冊：mysql_pconnect()

在理論上來說，這聽起來非常的不錯。但是從個人經驗（也是大多數人的）上來說，這個功能制造出來的麻煩事更多。因為，你只有有限的鏈接數，內存問題，文件句柄數，等等。

而且，Apache 運行在極端并行的環境中，會創建很多很多的了進程。這就是為什么這種“永久鏈接”的機制工作地不好的原因。在你決定要使用“永久鏈接”之前，你需要好好地考慮一下你的整個系統的架構。

本文由用戶 jopen 自行上傳分享，僅供網友學習交流。所有權歸原作者，若您的權利被侵害，請聯系管理員。

轉載本站原創文章，請注明出處，并保留原始鏈接、圖片水印。

本站是一個以用戶分享為主的開源技術平臺，歡迎各類分享！

本文地址：http://www.baiduhome.net/lib/view/open1430901016179.html

MySQL 數據庫服務器