高效的MySQL分頁

jopen 10年前發布 | 9K 次閱讀 MySQL 數據庫服務器

PERCONA PERFORMANCE CONFERENCE 2009上,來自雅虎的幾位工程師帶來了一篇Efficient Pagination Using MySQL的報告,有很多亮點,本文是在原文基礎上的進一步延伸。

首先看一下分頁的基本原理:

mysql explain SELECT * FROM message ORDER BY id DESC LIMIT 10000, 20\G
***************** 1. row **************
id: 1
select_type: SIMPLE
table: message
type: index
possible_keys: NULL
key: PRIMARY
key_len: 4
ref: NULL
rows: 10020
Extra:
1 row in set (0.00 sec)

limit 10000,20的意思掃描滿足條件的10020行,扔掉前面的10000行,返回最后的20行,問題就在這里,如果是limit 100000,100,需要掃描100100行,在一個高并發的應用里,每次查詢需要掃描超過10W行,性能肯定大打折扣。文中還提到limit n性能是沒問題的,因為只掃描n行。

  文中提到一種clue的做法,給翻頁提供一些線索,比如還是SELECT * FROM message ORDER BY id DESC,按id降序分頁,每頁20條,當前是第10頁,當前頁條目id最大的是9527,最小的是9500,如果我們只提供上一頁、下一頁這樣的跳轉(不提供到第N頁的跳轉),那么在處理上一頁的時候SQL語句可以是:

SELECT * FROM message WHERE id  9527 ORDER BY id ASC LIMIT 20;

處理下一頁的時候SQL語句可以是:

SELECT * FROM message WHERE id  9500 ORDER BY id DESC LIMIT 20;

不管翻多少頁,每次查詢只掃描20行。

  缺點是只能提供上一頁、下一頁的鏈接形式,但是我們的產品經理非常喜歡上一頁 1 2 3 4 5 6 7 8 9 下一頁這樣的鏈接方式,怎么辦呢?

  如果LIMIT m,n不可避免的話,要優化效率,只有盡可能的讓m小一下,我們擴展前面的clue做法,還是SELECT * FROM message ORDER BY id DESC,按id降序分頁,每頁20條,當前是第10頁,當前頁條目id最大的是9527,最小的是9500,比如要跳到第8頁,我看的SQL語句可以這樣寫:

SELECT * FROM message WHERE id  9527 ORDER BY id ASC LIMIT 20,20;

跳轉到第13頁:

SELECT * FROM message WHERE id  9500 ORDER BY id DESC LIMIT 40,20;

原理還是一樣,記錄住當前頁id的最大值和最小值,計算跳轉頁面和當前頁相對偏移,由于頁面相近,這個偏移量不會很大,這樣的話m值相對較小,大大減少掃描的行數。其實傳統的limit m,n,相對的偏移一直是第一頁,這樣的話越翻到后面,效率越差,而上面給出的方法就沒有這樣的問題。

  注意SQL語句里面的ASC和DESC,如果是ASC取出來的結果,顯示的時候記得倒置一下。

  已在60W數據總量的表中測試,效果非常明顯。

 

 本文由用戶 jopen 自行上傳分享,僅供網友學習交流。所有權歸原作者,若您的權利被侵害,請聯系管理員。
 轉載本站原創文章,請注明出處,并保留原始鏈接、圖片水印。
 本站是一個以用戶分享為主的開源技術平臺,歡迎各類分享!