以MySQL為例，碎片的存在十分影響性能
MySQL 的碎片是 MySQL 運維過程中比較常見的問題，碎片的存在十分影響資料庫的性能，本文將對 MySQL 碎片進行一次講解。
判斷方法：
MySQL 的碎片是否產生，通過查看
show table status from table_nameG;
這個命令中 Data_free 欄位，如果該欄位不為 0，則產生了數據碎片。
產生的原因：
1. 經常進行 delete 操作
經常進行 delete 操作，產生空白空間，如果進行新的插入操作，MySQL將嘗試利用這些留空的區域，但仍然無法將其徹底佔用，久而久之就產生了碎片；
演示：
創建一張表，往裡面插入數據，進行一個帶有 where 條件或者 limit 的 delete 操作，刪除前後對比一下 Data_free 的變化。
刪除前：
Data_free 不為 0，說明有碎片；
2. update 更新
update 更新可變長度的欄位(例如 varchar 類型)，將長的字元串更新成短的。之前存儲的內容長，後來存儲是短的，即使後來插入新數據，那麼有一些空白區域還是沒能有效利用的。
演示：
創建一張表，往裡面插入一條數據，進行一個 update 操作，前後對比一下 Data_free 的變化。
CREATE TABLE `t1` ( `k` varchar(3000) DEFAULT NULL ) ENGINE=MyISAM DEFAULT CHARSET=utf8;
更新語句：update t1 set k='aaa';
更新前長度：223 Data_free：0
更新後長度：3 Data_free：204
Data_free 不為 0，說明有碎片；
產生影響：
1. 由於碎片空間是不連續的，導致這些空間不能充分被利用；
2. 由於碎片的存在，導致資料庫的磁碟 I/O 操作變成離散隨機讀寫，加重了磁碟 I/O 的負擔。
清理辦法：
MyISAM：optimize table 表名；（OPTIMIZE 可以整理數據文件,並重排索引）
Innodb：
select count(*) from test.twitter_11;
1. ALTER TABLE tablename ENGINE=InnoDB；(重建表存儲引擎，重新組織數據)
2. 進行一次數據的導入導出
碎片清理的性能對比：
引用我之前一個生產庫的數據，對比一下清理前後的差異。
SQL執行速度：
修改前：1 row in set (7.37 sec)
修改後：1 row in set (1.28 sec)
結論：
通過對比，可以看到碎片清理前後，節省了很多空間，SQL執行效率更快。所以，在日常運維工作中，應對碎片進行定期清理，保證資料庫有穩定的性能。
❷ SQL資料庫文件太大怎麼處理
查詢過期應該跟文件大小關系不大，主要是看看索引是否建的正確，如果確認索引沒有問題，可能是產生了很多索引碎片，建議用DBCC SHOWCONTIG(tablename) 掃描一下，如果碎片量比較大，就進行索引碎片的整理回收DBCC INDEXDEFRAG， 當然，如果能充分備份，也可以進行索引重建DBCC DBREINDEX，不過後者慎用。具體使用方法請查閱sql server的幫助文檔。
❸ 資料庫設計過程中，對於大批量的數據如何進行資料庫優化
實例講解MYSQL資料庫的查詢優化技術
作者：佚名 文章來源：未知 點擊數：2538 更新時間：2006-1-19
資料庫系統是管理信息系統的核心，基於資料庫的聯機事務處理（OLTP）以及聯機分析處理(OLAP)是銀行、企業、政府等部門最為重要的計算機應用之一。從大多數系統的應用實例來看，查詢操作在各種資料庫操作中所佔據的比重最大，而查詢操作所基於的SELECT語句在SQL語句中又是代價最大的語句。舉例來說，如果數據的量積累到一定的程度，比如一個銀行的賬戶資料庫表信息積累到上百萬甚至上千萬條記錄，全表掃描一次往往需要數十分鍾，甚至數小時。如果採用比全表掃描更好的查詢策略，往往可以使查詢時間降為幾分鍾，由此可見查詢優化技術的重要性。
筆者在應用項目的實施中發現，許多程序員在利用一些前端資料庫開發工具（如PowerBuilder、Delphi等）開發資料庫應用程序時，只注重用戶界面的華麗，並不重視查詢語句的效率問題，導致所開發出來的應用系統效率低下，資源浪費嚴重。因此，如何設計高效合理的查詢語句就顯得非常重要。本文以應用實例為基礎，結合資料庫理論，介紹查詢優化技術在現實系統中的運用。
分析問題
許多程序員認為查詢優化是DBMS（資料庫管理系統）的任務，與程序員所編寫的SQL語句關系不大，這是錯誤的。一個好的查詢計劃往往可以使程序性能提高數十倍。查詢計劃是用戶所提交的SQL語句的集合，查詢規劃是經過優化處理之後所產生的語句集合。DBMS處理查詢計劃的過程是這樣的：在做完查詢語句的詞法、語法檢查之後，將語句提交給DBMS的查詢優化器，優化器做完代數優化和存取路徑的優化之後，由預編譯模塊對語句進行處理並生成查詢規劃，然後在合適的時間提交給系統處理執行，最後將執行結果返回給用戶。在實際的資料庫產品(如Oracle、Sybase等)的高版本中都是採用基於代價的優化方法，這種優化能根據從系統字典表所得到的信息來估計不同的查詢規劃的代價，然後選擇一個較優的規劃。雖然現在的資料庫產品在查詢優化方面已經做得越來越好，但由用戶提交的SQL語句是系統優化的基礎，很難設想一個原本糟糕的查詢計劃經過系統的優化之後會變得高效，因此用戶所寫語句的優劣至關重要。系統所做查詢優化我們暫不討論，下面重點說明改善用戶查詢計劃的解決方案。
解決問題
下面以關系資料庫系統Informix為例，介紹改善用戶查詢計劃的方法。
1．合理使用索引
索引是資料庫中重要的數據結構，它的根本目的就是為了提高查詢效率。現在大多數的資料庫產品都採用IBM最先提出的ISAM索引結構。索引的使用要恰到好處，其使用原則如下：
●在經常進行連接，但是沒有指定為外鍵的列上建立索引，而不經常連接的欄位則由優化器自動生成索引。
●在頻繁進行排序或分組（即進行group by或order by操作）的列上建立索引。
●在條件表達式中經常用到的不同值較多的列上建立檢索，在不同值少的列上不要建立索引。比如在雇員表的「性別」列上只有「男」與「女」兩個不同值，因此就無必要建立索引。如果建立索引不但不會提高查詢效率，反而會嚴重降低更新速度。
●如果待排序的列有多個，可以在這些列上建立復合索引（compound index）。
●使用系統工具。如Informix資料庫有一個tbcheck工具，可以在可疑的索引上進行檢查。在一些資料庫伺服器上，索引可能失效或者因為頻繁操作而使得讀取效率降低，如果一個使用索引的查詢不明不白地慢下來，可以試著用tbcheck工具檢查索引的完整性，必要時進行修復。另外，當資料庫表更新大量數據後，刪除並重建索引可以提高查詢速度。
2．避免或簡化排序
應當簡化或避免對大型表進行重復的排序。當能夠利用索引自動以適當的次序產生輸出時，優化器就避免了排序的步驟。以下是一些影響因素：
●索引中不包括一個或幾個待排序的列；
●group by或order by子句中列的次序與索引的次序不一樣；
●排序的列來自不同的表。
為了避免不必要的排序，就要正確地增建索引，合理地合並資料庫表（盡管有時可能影響表的規范化，但相對於效率的提高是值得的）。如果排序不可避免，那麼應當試圖簡化它，如縮小排序的列的范圍等。
3．消除對大型錶行數據的順序存取
在嵌套查詢中，對表的順序存取對查詢效率可能產生致命的影響。比如採用順序存取策略，一個嵌套3層的查詢，如果每層都查詢1000行，那麼這個查詢就要查詢10億行數據。避免這種情況的主要方法就是對連接的列進行索引。例如，兩個表：學生表（學號、姓名、年齡……）和選課表（學號、課程號、成績）。如果兩個表要做連接，就要在「學號」這個連接欄位上建立索引。
還可以使用並集來避免順序存取。盡管在所有的檢查列上都有索引，但某些形式的where子句強迫優化器使用順序存取。下面的查詢將強迫對orders表執行順序操作：
SELECT ＊ FROM orders WHERE (customer_num=104 AND order_num>1001) OR order_num=1008
雖然在customer_num和order_num上建有索引，但是在上面的語句中優化器還是使用順序存取路徑掃描整個表。因為這個語句要檢索的是分離的行的集合，所以應該改為如下語句：
SELECT ＊ FROM orders WHERE customer_num=104 AND order_num>1001
UNION
SELECT ＊ FROM orders WHERE order_num=1008
這樣就能利用索引路徑處理查詢。
4．避免相關子查詢
一個列的標簽同時在主查詢和where子句中的查詢中出現，那麼很可能當主查詢中的列值改變之後，子查詢必須重新查詢一次。查詢嵌套層次越多，效率越低，因此應當盡量避免子查詢。如果子查詢不可避免，那麼要在子查詢中過濾掉盡可能多的行。
5．避免困難的正規表達式
MATCHES和LIKE關鍵字支持通配符匹配，技術上叫正規表達式。但這種匹配特別耗費時間。例如：SELECT ＊ FROM customer WHERE zipcode LIKE 「98_ _ _」
即使在zipcode欄位上建立了索引，在這種情況下也還是採用順序掃描的方式。如果把語句改為SELECT ＊ FROM customer WHERE zipcode >「98000」，在執行查詢時就會利用索引來查詢，顯然會大大提高速度。
另外，還要避免非開始的子串。例如語句：SELECT ＊ FROM customer WHERE zipcode[2，3]>「80」，在where子句中採用了非開始子串，因而這個語句也不會使用索引。
6．使用臨時表加速查詢
把表的一個子集進行排序並創建臨時表，有時能加速查詢。它有助於避免多重排序操作，而且在其他方面還能簡化優化器的工作。例如：
SELECT cust.name，rcvbles.balance，……other columns
FROM cust，rcvbles
WHERE cust.customer_id = rcvlbes.customer_id
AND rcvblls.balance>0
AND cust.postcode>「98000」
ORDER BY cust.name
如果這個查詢要被執行多次而不止一次，可以把所有未付款的客戶找出來放在一個臨時文件中，並按客戶的名字進行排序：
SELECT cust.name，rcvbles.balance，……other columns
FROM cust，rcvbles
WHERE cust.customer_id = rcvlbes.customer_id
AND rcvblls.balance>0
ORDER BY cust.name
INTO TEMP cust_with_balance
然後以下面的方式在臨時表中查詢：
SELECT ＊ FROM cust_with_balance
WHERE postcode>「98000」
臨時表中的行要比主表中的行少，而且物理順序就是所要求的順序，減少了磁碟I/O，所以查詢工作量可以得到大幅減少。
注意：臨時表創建後不會反映主表的修改。在主表中數據頻繁修改的情況下，注意不要丟失數據。
7．用排序來取代非順序存取
非順序磁碟存取是最慢的操作，表現在磁碟存取臂的來回移動。SQL語句隱藏了這一情況，使得我們在寫應用程序時很容易寫出要求存取大量非順序頁的查詢。
有些時候，用資料庫的排序能力來替代非順序的存取能改進查詢。
實例分析
下面我們舉一個製造公司的例子來說明如何進行查詢優化。製造公司資料庫中包括3個表，模式如下所示：
1．part表
零件號零件描述其他列
（part_num）（part_desc）（other column）
102，032Seageat 30G disk……
500，049Novel 10M network card……
……
2．vendor表
廠商號廠商名其他列
（vendor _num）（vendor_name） （other column）
910，257Seageat Corp……
523，045IBM Corp……
……
3．parven表
零件號廠商號零件數量
（part_num）（vendor_num）（part_amount）
102，032910，2573,450,000
234，423321，0014，000，000
……
下面的查詢將在這些表上定期運行，並產生關於所有零件數量的報表：
SELECT part_desc，vendor_name，part_amount
FROM part，vendor，parven
WHERE part.part_num=parven.part_num
AND parven.vendor_num = vendor.vendor_num
ORDER BY part.part_num
如果不建立索引，上述查詢代碼的開銷將十分巨大。為此，我們在零件號和廠商號上建立索引。索引的建立避免了在嵌套中反復掃描。關於表與索引的統計信息如下：
錶行尺寸行數量每頁行數量數據頁數量
（table）(row size)（Row count）（Rows/Pages）（Data Pages）
part15010，00025400
Vendor1501，000 2540
Parven13 15，000300 50
索引鍵尺寸每頁鍵數量頁面數量
（Indexes）(Key Size)（Keys/Page)(Leaf Pages）
part450020
Vendor45002
Parven825060
看起來是個相對簡單的3表連接，但是其查詢開銷是很大的。通過查看系統表可以看到，在part_num上和vendor_num上有簇索引，因此索引是按照物理順序存放的。parven表沒有特定的存放次序。這些表的大小說明從緩沖頁中非順序存取的成功率很小。此語句的優化查詢規劃是：首先從part中順序讀取400頁，然後再對parven表非順序存取1萬次，每次2頁（一個索引頁、一個數據頁），總計2萬個磁碟頁，最後對vendor表非順序存取1.5萬次，合3萬個磁碟頁。可以看出在這個索引好的連接上花費的磁碟存取為5.04萬次。
實際上，我們可以通過使用臨時表分3個步驟來提高查詢效率：
1．從parven表中按vendor_num的次序讀數據：
SELECT part_num，vendor_num，price
FROM parven
ORDER BY vendor_num
INTO temp pv_by_vn
這個語句順序讀parven（50頁），寫一個臨時表（50頁），並排序。假定排序的開銷為200頁，總共是300頁。
2．把臨時表和vendor表連接，把結果輸出到一個臨時表，並按part_num排序：
SELECT pv_by_vn，＊ vendor.vendor_num
FROM pv_by_vn，vendor
WHERE pv_by_vn.vendor_num=vendor.vendor_num
ORDER BY pv_by_vn.part_num
INTO TMP pvvn_by_pn
DROP TABLE pv_by_vn
這個查詢讀取pv_by_vn(50頁)，它通過索引存取vendor表1.5萬次，但由於按vendor_num次序排列，實際上只是通過索引順序地讀vendor表（40＋2=42頁），輸出的表每頁約95行，共160頁。寫並存取這些頁引發5＊160=800次的讀寫，索引共讀寫892頁。
3．把輸出和part連接得到最後的結果：
SELECT pvvn_by_pn.＊，part.part_desc
FROM pvvn_by_pn，part
WHERE pvvn_by_pn.part_num=part.part_num
DROP TABLE pvvn_by_pn
這樣，查詢順序地讀pvvn_by_pn(160頁)，通過索引讀part表1.5萬次，由於建有索引，所以實際上進行1772次磁碟讀寫，優化比例為30∶1。筆者在Informix Dynamic
Sever上做同樣的實驗，發現在時間耗費上的優化比例為5∶1(如果增加數據量，比例可能會更大)。
小結
20％的代碼用去了80％的時間，這是程序設計中的一個著名定律，在資料庫應用程序中也同樣如此。我們的優化要抓住關鍵問題，對於資料庫應用程序來說，重點在於SQL的執行效率。查詢優化的重點環節是使得資料庫伺服器少從磁碟中讀數據以及順序讀頁而不是非順序讀頁。
❹ 在資料庫訪問量過大時，怎樣提高訪問速度
在ASP中優化資料庫處理
ASP是一個WEB伺服器端的開發環境，它提供了一種簡單易學的腳本（VBScript或Jscript），並帶有許多內置的對象，從而提供了一條簡捷的編程之路。更為重要的是，ASP中提供了ADO對象，讓程序員可以輕松操作各種資料庫，從而可以產生和運行動態的、交互的WEB服務應用程序。目前，國內很多電子商務站點都採用了ASP技術來與資料庫交互，為用戶提供各類服務。
由於電子商務站點的大部分信息都存放在資料庫中，要提高WEB的響應速度，建立高性能的電子商務站點，很大一部分取決於ASP與資料庫之間的處理性能。因此，在ASP編寫時，要注意資料庫處理方法。
1、 使用Connection pool機制
在資料庫處理中，資源花銷最大的是建立資料庫連接，而且用戶還會有一個較長的連接等待時間。若每一個用戶訪問時，都重新建立連接，不僅用戶要長時間等待，而且系統有可能會由於資源消耗過大而停止響應。如果能夠重用以前建立的資料庫連接，而不是每次訪問時都重新建立連接，則可以很好地解決這些問題，從而提高整個系統的性能。在IIS+ASP處理體系中，採用了Connection pool機制來保證這一點。
Connection pool的原理是，IIS+ASP體系中維持了一個連接緩沖池，建立好的資料庫連接在ASP程序中的斷開都是邏輯斷開，而實際的物理連接被存儲在池中並被維護。這樣，當下一個用戶訪問時，直接從連接緩沖池中取得一個資料庫連接，而不需重新連接資料庫，因此，可以大大地提高系統的響應速度。
為了正確使用Connection pool時，必須注意以下幾點：
a). 在MDAC2.0以前的版本中，必須經過資料庫驅動程序的配置才能使用Connection Pool；在以後的版本中（比如MDAC2.1），預設是使用Connection Pool機制。具體配置情況可以參見微軟公司的站點（）。
順便提一句，在使用ORACLE資料庫時，最好使用微軟提供的驅動程序。
b). 每次資料庫連接串參數必須相同，否則會被認為是不同的連接而重新去連接資料庫，而不是使用緩沖池中的連接。最好的做法是將連接串存儲在Application變數中，所有的程序在建立連接時使用Application變數的值。
c). 為了更好地使用和維護連接緩沖池，建議在程序中使用以下的方法對資料庫連接進行操作，因為隱式使用資料庫連接時不能利用緩沖池的機制：
¨ 顯示地創建連接對象: Set conn=Server.CreateObject(「Adodb.connection」)
¨ 建立資料庫連接：conn.open Application(「connection_string」),…
¨ 進行資料庫操作：…
¨ 顯式地關閉連接對象：conn.close
2、 利用直接的Ole DB驅動程序
在Asp中，通過ADO可以使用兩種方式連接資料庫，一種是傳統的ODBC方式，一種是Ole DB方式。由於ADO是建立在Ole DB技術上的，為了支持ODBC，必須建立相應的Ole DB 到ODBC的調用轉換（如MS Oledb provider for ODBC）。而使用直接的Ole DB方式（如MS Oledb provider for Sql, Oracle），則不需轉換，從而提高處理速度，同時，還能利用Ole DB的新特性。
3、 在內存中緩存ADO對象或其內容
通常，在ASP程序中，都會涉及到一些存儲在資料庫中的常用信息，如省份列表，商品分類等，這些信息對於每一個訪問用戶都是相同的。若每一個用戶訪問時，都要去資料庫里取出來，然後顯示給用戶，不僅會使資料庫伺服器負載加重，無法快速服務於更重要的事務處理，而且WEB伺服器也必須不停地創建ADO對象，消耗大量資源，導致了當用戶很多時幾乎失去響應。若能把一些常用信息事先存儲在內存中，當用戶訪問時，直接從內存中取出，顯示給用戶，則可以大大減小系統的壓力，提高響應速度。
比如，我們可以把已經取得了數據的RecordSet對象存儲在Application變數中，當用戶訪問時，從Application變數中取得RecordSet對象，而不需再次建立資料庫連接；也可以將RecordSet對象里的數據以其他方式存儲，比如存儲在數組中，然後再將數組存儲在Application變數中，使用時用數組的方式讀取。
需要注意的是，一個對象要存儲在Application變數中，線程模式必須是Both；對於不滿足該條件的對象，必須以其他方式，比如轉換成數組的方式存儲在Application變數中，這也是上面所說的將內容存儲在數組中的原因。
4、 使用數字序列
在Asp程序中，從諸如RecordSet中讀取數據時，為了方便，常使用資料庫列名的方式進行：
Response.write rs(「fieldnameN」)
而很少採用該資料庫列名所在的數字序列來讀取，即：
Response.write rs(N)
其實，為了從RecordSet得到列值，ADO必須將列名轉化為數字序列，因此，若直接使用數字序列，則可以提高讀取速度。若感覺使用數字序列，程序可讀性不直觀，可以採用建立常量的方法，定義：
const FIELDNAME1 1
5、 使用資料庫過程(procere)
在電子商務站點中，尤其是要進行交易的站點，為了完成交易，可能需要多次查詢大量的信息，用於判定是非，然後更新入庫。若在編寫Asp時，直接在一個程序中作多次資料庫操作，不僅IIS要創建很多ADO對象，消耗資源，而且加重了資料庫伺服器的負擔，增大了網路流量。若把多次資料庫操作流程定義為一個資料庫過程，用如下方式調用：
connection.execute 「」
則可以利用資料庫的強大性能，大大減輕Web系統的壓力，而且由於頁面內容與業務分開，管理維護也變得方便。
6、 使用優化過的sql語句
對於電子商務網站，最主要的就是要保證，不論訪問用戶的多少，系統都要有足夠快的響應速度。由於在Asp技術中，ADO對象消耗的資源是非常大的，若一個sql語句要執行很長的一段時間，對整個資源也將一直佔用，使系統沒有足夠的資源服務於其它用戶。因此，盡量使用優化過的sql語句，減少執行時間。比如，不使用在in語句中包含子查詢的語句，充分利用索引。
7、 利用資料庫的特性
ADO是一套通用的對象控制項，本身沒有利用資料庫的任何特性。但若在Asp程序編寫時，有意識地考慮結合資料庫的特性，往往可以有很好的效果。
比如，Oracle資料庫伺服器對於執行過的sql語句，通常都經過了分析優化，並存儲在一個sql內存緩沖區中，當下次同樣的sql語句請求時，直接從內存緩沖區取出執行，不再進行分析優化，從而可以大幅度提高性能。這就要求在Asp程序編寫時，盡量使用相同的Sql語句，或者參數化的Sql語句：
Set cmd=Server.createobject(「adodb.command」)
cmd.CommandText=」select * from proct where proctcode=?」
8、 用時創建，用完釋放
在前面也提到過，ADO對象是非常消耗資源的，因此一定要牢牢記住，只在用到ADO對象時才創建，用完後馬上釋放：
set rs=Server.createobject(「adodb.recordset」)
….
rs.close
set rs=nothing
願您愉快地編程，讓人們享受社會信息化所帶來的好處。