優化|再用傳統分頁SQL你就死定了
0、導讀
在分頁功能開發時，我們很習慣用LIMIT O,N的方法來取數據。這種方法在遇到超大分頁偏移量時是會把MySQL搞死的，請別再這么寫SQL了
成都創新互聯是一家集網站建設,寶雞企業網站建設,寶雞品牌網站建設,網站定制,寶雞網站建設報價,網絡營銷,網絡優化,寶雞網站推廣為一體的創新建站企業，幫助傳統企業提升企業形象加強企業競爭力。可充分滿足這一群體相比中小企業更為豐富、高端、多元的互聯網需求。同時我們時刻保持專業、時尚、前沿，時刻以成就客戶成長自我，堅持不斷學習、思考、沉淀、凈化自己，讓我們為更多的企業打造出實用型網站。
通常，我們會采用ORDER BY LIMIT start, offset 的方式來進行分頁查詢。例如下面這個SQL：
SELECT * FROM `t1` WHERE ftype=1 ORDER BY id DESC LIMIT 100, 10;
或者像下面這個不帶任何條件的分頁SQL：
SELECT * FROM `t1` ORDER BY id DESC LIMIT 100, 10;
一般而言，分頁SQL的耗時隨著 start 值的增加而急劇增加，我們來看下面這2個不同起始值的分頁SQL執行耗時：
[email protected]> SELECT * FROM `t1` WHERE ftype=1
ORDER BY id DESC LIMIT 500, 10;
…
10 rows in set (0.05 sec)
[email protected]> SELECT * FROM `t1` WHERE ftype=6
ORDER BY id DESC LIMIT 935500, 10;
…
10 rows in set (2.39 sec)
可以看到，隨著分頁數量的增加，SQL查詢耗時也有數十倍增加，顯然不科學。
今天我們就來分析下，如何能優化這個分頁方案。
一般滴，想要優化分頁的終極方案就是：沒有分頁，哈哈哈~~~，不要說我講廢話，確實如此，可以把分頁算法交給Solr、Lucene、Sphinx等第三方解決方案，尤其是遇到有模糊搜索的需求時，沒必要讓MySQL來做它不擅長的事情。
當然了，有小伙伴說，用第三方太麻煩了，我們就想用MySQL來做這個分頁，咋辦呢？莫急，且待我們慢慢分析。
先看下表DDL、數據量、查詢SQL的執行計劃等信息：
[email protected]> SHOW CREATE TABLE `t1`;
CREATE TABLE `t1` (
`id` int(10) unsigned NOT NULL AUTO_INCREMENT,
...
`ftype` tinyint(3) unsigned NOT NULL,
...
PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8;
[email protected]> select count(*) from t1;
+----------+
| count(*) |
+----------+
| 994584 |
+----------+
[email protected]> EXPLAIN SELECT * FROM `t1` WHERE ftype=1
ORDER BY id DESC LIMIT 500, 10\G
*************************** 1. row ***************************
id: 1
select_type: SIMPLE
table: t1
type: index
possible_keys: NULL
key: PRIMARY
key_len: 4
ref: NULL
rows: 510
Extra: Using where
[email protected]> EXPLAIN SELECT * FROM `t1` WHERE ftype=1
ORDER BY id DESC LIMIT 935500, 10\G
*************************** 1. row ***************************
id: 1
select_type: SIMPLE
table: t1
type: index
possible_keys: NULL
key: PRIMARY
key_len: 4
ref: NULL
rows: 935510
Extra: Using where
可以看到，雖然是通過主鍵索引掃描數據的，但第二個SQL需要掃描的記錄數太大了，而且需要先掃描約935510條記錄，然后再根據排序結果取10條記錄，這肯定是非常慢了。
針對這種情況，我們的優化思路就比較清晰了，有兩點：
-
盡可能從索引中直接獲取數據，避免或減少再次掃描行數據的次數（也就是我們通常所說的避免回表）；
-
盡可能減少掃描的記錄數，也就是先確定起始的范圍，再往后取N條記錄。
根據上面這兩種優化思路，有相應的SQL改寫方法：子查詢、表連接，像下面這樣的：
#方法一
#采用子查詢的方式優化，在子查詢里先從索引獲取到最大id，然后倒序排，再取10行結果集
#注意這里采用了兩次倒序排，因此在取LIMIT的start值時，比原來的值加了10，即935510，否則結果將和原來的不一致
[email protected]> EXPLAIN SELECT * FROM (SELECT * FROM `t1` WHERE
id > ( SELECT id FROM `t1` WHERE ftype=1
ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC\G
*************************** 1. row ***************************
id: 1
select_type: PRIMARY
table: <derived2>
type: ALL
possible_keys: NULL
key: NULL
key_len: NULL
ref: NULL
rows: 10
Extra: Using filesort
*************************** 2. row ***************************
id: 2
select_type: DERIVED
table: t1
type: ALL
possible_keys: PRIMARY
key: NULL
key_len: NULL
ref: NULL
rows: 973192
Extra: Using where
*************************** 3. row ***************************
id: 3
select_type: SUBQUERY
table: t1
type: index
possible_keys: NULL
key: PRIMARY
key_len: 4
ref: NULL
rows: 935511
Extra: Using where
#方法二
#采用INNER JOIN優化，JOIN子句里也優先從索引獲取ID列表，然后直接關聯查詢獲得最終結果，這里不需要加10
[email protected]> EXPLAIN SELECT * FROM `t1` INNER JOIN
( SELECT id FROM `t1` WHERE ftype=1
ORDER BY id DESC LIMIT 935500,10) t2 USING (id)\G
*************************** 1. row ***************************
id: 1
select_type: PRIMARY
table: <derived2>
type: ALL
possible_keys: NULL
key: NULL
key_len: NULL
ref: NULL
rows: 935510
Extra: NULL
*************************** 2. row ***************************
id: 1
select_type: PRIMARY
table: t1
type: eq_ref
possible_keys: PRIMARY
key: PRIMARY
key_len: 4
ref: t2.id
rows: 1
Extra: NULL
*************************** 3. row ***************************
id: 2
select_type: DERIVED
table: t1
type: index
possible_keys: NULL
key: PRIMARY
key_len: 4
ref: NULL
rows: 973192
Extra: Using where
然后來對比下這2個優化后的執行時間/代價：
#1、子查詢優化：從profiling的結果來看，相比原來耗時減少 28.2%
[email protected]> SELECT * FROM (SELECT * FROM `t1` WHERE
id > ( SELECT id FROM `t1` WHERE ftype=1
ORDER BY id DESC LIMIT 935510, 1) LIMIT 10) T ORDER BY id DESC;
...
rows in set (1.86 sec)
#2、INNER JOIN優化：從profiling的結果來看，相比原來耗時減少30.8%
[email protected]> SELECT * FROM `t1` INNER JOIN
( SELECT id FROM `t1` WHERE ftype=1
ORDER BY id DESC LIMIT 935500,10) t2 USING (id);
...
10 rows in set (1.83 sec)
再來看一個不帶過濾條件的分頁SQL對比：
#1、原始SQL
[email protected]> EXPLAIN SELECT * FROM `t1` ORDER BY id DESC LIMIT 935500, 10\G
*************************** 1. row ***************************
id: 1
select_type: SIMPLE
table: t1
type: index
possible_keys: NULL
key: PRIMARY
key_len: 4
ref: NULL
rows: 935510
Extra: NULL
[email protected]> SELECT * FROM `t1` ORDER BY id DESC LIMIT 935500, 10;
...
10 rows in set (2.22 sec)
#2、采用子查詢優化，相比原來耗時減少10.6%
[email protected]> EXPLAIN SELECT * FROM (SELECT * FROM `t1` WHERE
id > ( SELECT id FROM `t1` ORDER BY id DESC
LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC;
*************************** 1. row ***************************
id: 1
select_type: PRIMARY
table: <derived2>
type: ALL
possible_keys: NULL
key: NULL
key_len: NULL
ref: NULL
rows: 10
Extra: Using filesort
*************************** 2. row ***************************
id: 2
select_type: DERIVED
table: t1
type: ALL
possible_keys: PRIMARY
key: NULL
key_len: NULL
ref: NULL
rows: 973192
Extra: Using where
*************************** 3. row ***************************
id: 3
select_type: SUBQUERY
table: t1
type: index
possible_keys: NULL
key: PRIMARY
key_len: 4
ref: NULL
rows: 935511
Extra: Using index
[email protected]> SELECT * FROM (SELECT * FROM `t1` WHERE
id > ( SELECT id FROM `t1` ORDER BY id DESC
LIMIT 935510, 1) LIMIT 10) t ORDER BY id DESC;
…
10 rows in set (2.01 sec)
#3、采用INNER JOIN優化，相比原來耗時減少30.2%
[email protected]> EXPLAIN SELECT * FROM `t1` INNER JOIN
( SELECT id FROM `t1`ORDER BY id DESC
LIMIT 935500,10) t2 USING (id)\G
*************************** 1. row ***************************
id: 1
select_type: PRIMARY
table:
type: ALL
possible_keys: NULL
key: NULL
key_len: NULL
ref: NULL
rows: 935510
Extra: NULL
*************************** 2. row ***************************
id: 1
select_type: PRIMARY
table: t1
type: eq_ref
possible_keys: PRIMARY
key: PRIMARY
key_len: 4
ref: t1.id
rows: 1
Extra: NULL
*************************** 3. row ***************************
id: 2
select_type: DERIVED
table: t1
type: index
possible_keys: NULL
key: PRIMARY
key_len: 4
ref: NULL
rows: 973192
Extra: Using index
[email protected]> SELECT * FROM `t1` INNER JOIN
( SELECT id FROM `t1`ORDER BY id DESC
LIMIT 935500,10) t2 USING (id);
…
10 rows in set (1.70 sec)
至此，我們看到采用子查詢或者INNER JOIN進行優化后，都有大幅度的提升，這個方法也同樣適用于較小的分頁。
說下結論，子查詢和INNER JOIN分頁優化方法的提升效率是：
-
帶WHERE條件的分頁分別能提高查詢效率：24.9%、156.5%；
-
不帶WHERE條件的分頁分別提高查詢效率：554.5%、11.7%。
單從提升比例說，還是挺可觀的。而且這兩種優化方法基本上可適用于各種分頁模式，強烈建議一開始就改成這種SQL寫法習慣。
我們來看下各種場景相應的提升比例是多少：
| | 大分頁，帶WHERE | 大分頁，不帶WHERE | 大分頁平均提升比例 | 小分頁，帶WHERE | 小分頁，不帶WHERE | 總體平均提升比例 |
| 子查詢優化 | 28.20% | 10.60% | 19.40% | 24.90% | 554.40% | 154.53% |
| INNER JOIN優化 | 30.80% | 30.20% | 30.50% | 156.50% | 11.70% | 57.30% |
這樣看就和明顯了，尤其是針對大分頁的情況，因此我們優先推薦使用INNER JOIN方式優化分頁算法。
上述每次測試都重啟mysqld實例，并且加了SQL_NO_CACHE，以保證每次都是直接數據文件或索引文件中讀取。如果數據經過預熱后，查詢效率會一定程度提升，但上述相應的效率提升比例還是基本一致的。
相關閱讀：
[MySQL優化案例]系列 — discuz!熱帖翻頁優化
本文標題：優化|再用傳統分頁SQL你就死定了
文章源于：http://www.2m8n56k.cn/article4/pchjoe.html
成都網站建設公司_創新互聯，為您提供搜索引擎優化、外貿建站、軟件開發、網站策劃、靜態網站、Google
聲明：本網站發布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：[email protected]。內容未經允許不得轉載，或轉載時需注明來源： 創新互聯
- 杭州服務器托管公司有哪些？ 2021-03-17
- IDC服務器托管是什么？為什么要托管？ 2022-10-04
- 關于網站服務器托管需要注意問題 2016-11-07
- 什么是獨享服務器托管？ 2022-10-06
- 服務器托管哪家最好？ 2021-03-12
- 服務器之家淺談選擇服務器托管的三大優勢 2022-10-03
- 深圳服務器托管費用,深圳托管一臺服務器多少錢 2021-03-20
- 什么是服務器托管和服務器租用？ 2021-02-15
- 服務器托管可以選擇雙線機房嗎？ 2022-10-06
- 服務器托管與虛擬主機租用有什么區別？ 2022-06-19
- 服務器托管的收費標準通常是怎樣制定的？ 2016-10-05
- 服務器租用和服務器托管有什么區別，哪個更合算？ 2022-05-25