檢視SQL資料庫讀取慢的原因分析及優化資料庫讀取方式
SQL讀取速度變慢的原因很多,常見如下幾種:
- 沒有索引或者沒有用到索引(這是讀取慢最常見的問題,是程式設計的缺陷)。
- I/O輸送量小,形成了瓶頸效應。
- 沒有創建計算列導致讀取不優化。
- 記憶體不足。
- 網路速度慢。
- 讀取出的資料量過大(可以採用多次讀取,其他的方法降低資料量)。
- 鎖或者鎖死(這也是讀取慢最常見的問題,是程式設計的缺陷)。
- sp_lock,sp_who,活動的用戶查看,原因是讀寫競爭資源。
- 返回了不必要的行和列。
- 讀取語句不好,沒有優化。
可以通過如下方法來優化讀取 :
- 把資料、日誌、索引放到不同的I/O設備上,增加讀取速度,以前可以將Tempdb應放在RAID0上,SQL2000不在支援。資料量(尺寸)越大,提高I/O越重要。
- 縱向、橫向分割表,減少表的尺寸(sp_spaceuse)。
- 升級硬體。
- 根據讀取準則,建立索引,優化索引、優化訪問方式,限制結果集的資料量。注意填充因數要適當(最好是使用預設值0)。索引應該儘量小,使用位元組數小的列建索引好(參照索引的創建),不要對有限的幾個值的欄位建單一索引如性別欄位
- 提高網速。
- 擴大伺服器的記憶體,Windows 2000和SQL server 2000能支援4-8G的記憶體。配置虛擬記憶體:虛擬記憶體大小應基於電腦上併發運行的服務進行配置。運行 Microsoft SQL Server? 2000 時,可考慮將虛擬記憶體大小設置為電腦中安裝的實體記憶體的 1.5 倍。如果另外安裝了全文檢索功能,並打算運行 Microsoft 搜索服務以便執行全文索引和讀取,可考慮:將虛擬記憶體大小配置為至少是電腦中安裝的實體記憶體的 3 倍。將 SQL Server max server memory 伺服器配置選項配置為實體記憶體的 1.5 倍(虛擬記憶體大小設置的一半)。
- 增加伺服器CPU個數;但是必須明白並行處理連續處理更需要資源例如記憶體。使用並行還是串列程是MsSQL自動評估選擇的。單個任務分解成多個任務,就可以在處理器上運行。例如耽擱讀取的排序、連接、掃描和GROUP BY字句同時執行,SQL SERVER根據系統的負載情況決定最優的並行等級,複雜的需要消耗大量的CPU的讀取最適合並行處理。但是更新操作UPDATE,INSERT,DELETE還不能並行處理。
- 如果是使用like進行讀取的話,簡單的使用index是不行的,但是全文索引,耗空間。 like 'a%' 使用索引 like '%a' 不使用索引用 like '%a%' 讀取時,讀取耗時和欄位值總長度成正比,所以不能用CHAR類型,而是VARCHAR。對於欄位的值很長的建全文索引。
- DB Server 和APPLication Server 分離;OLTP和OLAP分離。
- 分散式分區視圖可用於實現資料庫伺服器聯合體。聯合體是一組分開管理的伺服器,但它們相互協作分擔系統的處理負荷。這種通過分區資料形成資料庫伺服器聯合體的機制能夠擴大一組伺服器,以支援大型的多層 Web 網站的處理需要。有關更多資訊,參見設計聯合資料庫伺服器。(參照SQL幫助檔'分區視圖')
a、在實現分區視圖之前,必須先水準分區表。
b、在創建成員表後,在每個成員伺服器上定義一個分散式分區視圖,並且每個視圖具有相同的名稱。這樣,引用分散式分區視圖名的讀取可以在任何一個成員伺服器上運行。系統操作如同每個成員伺服器上都有一個原始表的複本一樣,但其實每個伺服器上只有一個成員表和一個分散式分區視圖。資料的位置對應用程式是透明的。 - 重建索引 DBCC REINDEX ,DBCC INDEXDEFRAG,收縮資料和日誌 DBCC SHRINKDB,DBCC SHRINKFILE. 設置自動收縮日誌.對於大的資料庫不要設置資料庫自動增長,它會降低伺服器的性能。 在T-sql的寫法上有很大的講究,下面列出常見的要點:首先,DBMS處理讀取計畫的過程是這樣的:
a、 讀取語句的詞法、語法檢查。
b、 將語句提交給DBMS的讀取最佳化工具。
c、 優化器做代數優化和存取路徑的優化。
d、 由預編譯模組生成讀取規劃。
e、 然後在合適的時間提交給系統處理執行。
f、 最後將執行結果返回給用戶其次,看一下SQL SERVER的資料存放的結構:一個頁面的大小為8K(8060)位元組,8個頁面為一個盤區,按照B樹存放。 - Commit和rollback的區別 Rollback:回滾所有的事物。 Commit:提交當前的事物. 沒有必要在動態SQL裡寫事物,如果要寫請寫在外面如: begin tran exec(@s) commit trans 或者將動態SQL 寫成函數或者存儲過程。
- 在讀取Select語句中用Where字句限制返回的行數,避免資料表掃描,如果返回不必要的資料,浪費了伺服器的I/O資源,加重了網路的負擔降低性能。如果表很大,在資料表掃描的期間將表鎖住,禁止其他的聯接訪問表,後果嚴重。
- SQL的注釋申明對執行沒有任何影響
- 盡可能不使用游標,它佔用大量的資源。如果需要row-by-row地執行,儘量採用非游標技術,如:在用戶端迴圈,用臨時表,Table變數,用子讀取,用Case語句等等。游標可以按照它所支援的提取選項進行分類: 只進 必須按照從第一行到最後一行的順序提取行。FETCH NEXT 是唯一允許的提取操作,也是預設方式。可滾動性 可以在游標中任何地方隨機提取任意行。游標的技術在SQL2000下變得功能很強大,他的目的是支援迴圈。有四個併發選項 READ_ONLY:不允許通過游標定位更新(Update),且在組成結果集的行中沒有鎖。OPTIMISTIC WITH valueS:樂觀併發控制是事務控制理論的一個標準部分。樂觀併發控制用於這樣的情形,即在打開游標及更新行的間隔中,只有很小的機會讓第二個用戶更新某一行。當某個游標以此選項打開時,沒有鎖控制其中的行,這將有助於最大化其處理能力。
如果用戶試圖修改某一行,則此行的當前值會與最後一次提取此行時獲取的值進行比較。如果任何值發生改變,則伺服器就會知道其他人已更新了此行,並會返回一個錯誤。如果值是一樣的,伺服器就執行修改。選擇這個併發選項OPTIMISTIC WITH ROW VERSIONING:此樂觀併發控制選項基於行版本控制。使用行版本控制,其中的表必須具有某種版本識別字,伺服器可用它來確定該行在讀入游標後是否有所更改。在 SQL Server 中,這個性能由 timestamp 資料類型提供,它是一個二進位數字字,表示資料庫中更改的相對順序。每個資料庫都有一個全域當前時間戳記值:@@DBTS。每次以任何方式更改帶有 timestamp 列的行時,SQL Server 先在時間戳記列中存儲當前的 @@DBTS 值,然後增加 @@DBTS 的值。如果某 個表具有 timestamp 列,則時間戳記會被記到行級。伺服器就可以比較某行的當前時間戳記值和上次提取時所存儲的時間戳記值,從而確定該行是否已更新。伺服器不必比較所有列的值,只需比較 timestamp 列即可。如果應用程式對沒有 timestamp 列的表要求基於行版本控制的樂觀併發,則游標預設為基於數值的樂觀併發控制。SCROLL LOCKS 這個選項實現悲觀併發控制。在悲觀併發控制中,在把資料庫的行讀入游標結果集時,應用程式將試圖鎖定資料庫行。
在使用伺服器游標時,將行讀入游標時會在其上放置一個更新鎖。如果在事務內打開游標,則該事務更新鎖將一直保持到事務被提交或回滾;當提取下一行時,將除去游標鎖。如果在事務外打開游標,則提取下一行時,鎖就被丟棄。因此,每當使用者需要完全的悲觀併發控制時,游標都應在事務內打開。更新鎖將阻止任何其它任務獲取更新鎖或排它鎖,從而阻止其它任務更新該行。然而,更新鎖並不阻止共用鎖,所以它不會阻止其它任務讀取行,除非第二個任務也在要求帶更新鎖的讀取。滾動鎖根據在游標定義的 SELECT 語句中指定的鎖提示,這些游標併發選項可以生成滾動鎖。滾動鎖在提取時在每行上獲取,並保持到下次提取或者游標關閉,以先發生者為准。下次提取時,伺服器為新提取中的行獲取滾動鎖,並釋放上次提取中行的滾動鎖。
滾動鎖獨立於事務鎖,並可以保持到一個提交或回滾操作之後。如果提交時關閉游標的選項為關,則 COMMIT 語句並不關閉任何打開的游標,而且滾動鎖被保留到提交之後,以維護對所提取資料的隔離。所獲取滾動鎖的類型取決於游標併發選項和游標 SELECT 語句中的鎖提示。鎖提示 唯讀 樂觀數值 樂觀行版本控制 鎖定無提示 未鎖定 未鎖定 未鎖定更新 NOLOCK 未鎖定 未鎖定 未鎖定 未鎖定 HOLDLOCK 共用 共用 共用 更新 UPDLOCK 錯誤 更新 更新 更新 TABLOCKX 錯誤 未鎖定 未鎖定 更新其它 未鎖定 未鎖定 未鎖定 更新 *指定 NOLOCK 提示將使指定了該提示的表在游標內是唯讀的。 - 用Profiler來跟蹤讀取,得到讀取所需的時間,找出SQL的問題所在;用索引優化器優化索引。
- 注意UNion和UNion all 的區別。UNION all好。
- 注意使用DISTINCT,在沒有必要時不要用,它同UNION一樣會使讀取變慢。重複的記錄在讀取裡是沒有問題的。
- 讀取時不要返回不需要的行、列。
- 用sp_configure 'query governor cost limit'或者SET QUERY_GOVERNOR_COST_LIMIT來限制讀取消耗的資源。當評估讀取消耗的資源超出限制時,伺服器自動取消讀取,在讀取之前就扼殺掉。SET LOCKTIME設置鎖的時間。
- 用select top 100 / 10 Percent 來限制用戶返回的行數或者SET ROWCOUNT來限制操作的行。
- 在SQL2000以前,一般不要用如下的字句: "IS NULL", "<>", "!=", "!>", "!<", "NOT", "NOT EXISTS", "NOT IN", "NOT LIKE", and "LIKE '%500'",因為他們不走索引全是資料表掃描。也不要在WHere字句中的列名加函數,如Convert,substring等,如果必須用函數的時候,創建計算列再創建索引來替代.還可以變通寫法:WHERE SUBSTRING(firstname,1,1) = 'm'改為WHERE firstname like 'm%'(索引掃描),一定要將函數和列名分開。並且索引不能建得太多和太大。NOT IN會多次掃描表,使用EXISTS、NOT EXISTS ,IN , LEFT OUTER JOIN 來替代,特別是左連接,而Exists比IN更快,最慢的是NOT操作.如果列的值含有空,以前它的索引不起作用,現在2000的優化器能夠處理了。相同的是IS NULL,“NOT", "NOT EXISTS", "NOT IN"能優化她,而”<>”等還是不能優化,用不到索引。
- 使用Query Analyzer,查看SQL語句的讀取計畫和評估分析是否是優化的SQL。一般的20%的代碼佔據了80%的資源,我們優化的重點是這些慢的地方。
- 如果使用了IN或者OR等時發現讀取沒有走索引,使用顯示申明指定索引: SELECT * FROM PersonMember (INDEX = IX_Title) WHERE processid IN (‘男',‘女')。
- 將需要讀取的結果預先計算好放在表中,讀取的時候再SELECT。這在SQL7.0以前是最重要的手段。例如醫院的住院費計算。
- MIN() 和 MAX()能使用到合適的索引。
- 資料庫有一個原則是代碼離資料越近越好,所以優先選擇Default, 依次為Rules, Triggers, Constraint(約束如外健主健CheckUNIQUE……, 資料類型的最大長度等等都是約束), Procedure.這樣不僅維護工作小,編寫程式品質高,並且執行的速度快。
- 如果要插入大的二進位值到Image列,使用存儲過程,千萬不要用內嵌INsert來插入(不知JAVA是否)。因為這樣應用程式首先將二進位值轉換成字串(尺寸是它的兩倍),伺服器受到字元後又將他轉換成二進位值.存儲過程就沒有這些動作: 方法:Create procedure p_insert as insert into table(Fimage) values (@image), 在前臺調用這個存儲過程傳入二進位參數,這樣處理速度明顯改善。
- Between在某些時候比IN速度更快,Between能夠更快地根據索引找到範圍。用讀取最佳化工具可見到差別。select * from chineseresume where title in ('男','女') Select * from chineseresume where between '男' and '女' 是一樣的。由於in會在比較多次,所以有時會慢些。
- 在必要是對全域或者局部臨時表創建索引,有時能夠提高速度,但不是一定會這樣,因為索引也耗費大量的資源。他的創建同是實際表一樣。
- 不要建沒有作用的事物例如產生報表時,浪費資源。只有在必要使用事物時使用它。
- 用OR的字句可以分解成多個讀取,並且通過UNION 連接多個讀取。他們的速度只同是否使用索引有關,如果讀取需要用到聯合索引,用UNION all執行的效率更高.多個OR的字句沒有用到索引,改寫成UNION的形式再試圖與索引匹配。一個關鍵的問題是否用到索引。
- 儘量少用視圖,它的效率低。對視圖操作比直接對表操作慢,可以用stored procedure來代替她。特別的是不要用視圖嵌套,嵌套視圖增加了尋找原始資料的難度。我們看視圖的本質:它是存放在伺服器上的被優化好了的已經產生了讀取規劃的SQL。對單個表檢索資料時,不要使用指向多個表的視圖,直接從表檢索或者僅僅包含這個表的視圖上讀,否則增加了不必要的開銷,讀取受到干擾.為了加快視圖的讀取,MsSQL增加了視圖索引的功能。
- 沒有必要時不要用DISTINCT和ORDER BY,這些動作可以改在用戶端執行。它們增加了額外的開銷。這同UNION 和UNION ALL一樣的道理。SELECT top 20 ad.companyname,comid, position, ad.referenceid, worklocation, convert(varchar(10), ad.postDate,120) as postDate1, workyear, degreedescription FROM jobcn_query. dbo. COMPANYAD_query ad where referenceID in ('JCNAD00329667', 'JCNAD132168', 'JCNAD00337748', 'JCNAD00338345', 'JCNAD00333138', 'JCNAD00303570', 'JCNAD00303569', 'JCNAD00303568', 'JCNAD00306698', 'JCNAD00231935', 'JCNAD00231933', 'JCNAD00254567', 'JCNAD00254585', 'JCNAD00254608', 'JCNAD00254607', 'JCNAD00258524', 'JCNAD00332133', 'JCNAD00268618', 'JCNAD00279196', 'JCNAD00268613') order by postdate desc。
- 在IN後面值的列表中,將出現最頻繁的值放在最前面,出現得最少的放在最後面,減少判斷的次數。
- 36、當用SELECT INTO時,它會鎖住系統表(sysobjects,sysindexes等等),阻塞其他的連接的存取。創建臨時表時用顯示申明語句,而不是select INTO. drop table t_lxh begin tran select * into t_lxh from chineseresume where name = 'XYZ' --commit 在另一個連接中SELECT * from sysobjects可以看到 SELECT INTO 會鎖住系統表,Create table 也會鎖系統表(不管是臨時表還是系統表)。所以千萬不要在事物內使用它!!!這樣的話如果是經常要用的臨時表請使用實表,或者臨時表變數。
- 一般在GROUP BY 個HAVING字句之前就能剔除多餘的行,所以儘量不要用它們來做剔除行的工作。他們的執行順序應該如下最優:select 的Where字句選擇所有合適的行,Group By用來分組個統計行,Having字句用來剔除多餘的分組。這樣Group By 個Having的開銷小,讀取快.對於大的資料行進行分組和Having十分消耗資源。如果Group BY的目的不包括計算,只是分組,那麼用Distinct更快。
- 一次更新多條記錄比分多次更新每次一條快,就是說批次處理好。
- 少用臨時表,儘量用結果集和Table類性的變數來代替它,Table 類型的變數比臨時表好。
- 在SQL2000下,計算欄位是可以索引的,需要滿足的條件如下:
a、計算欄位的表達是確定的。
b、不能用在TEXT,Ntext,Image資料類型。
c、必須配製如下選項 ANSI_NULLS = ON, ANSI_PADDINGS = ON, …。 - 儘量將資料的處理工作放在伺服器上,減少網路的開銷,如使用存儲過程。存儲過程是編譯好、優化過、並且被組織到一個執行規劃裡、且存儲在資料庫中的SQL語句,是控制流語言的集合,速度當然快。反復執行的動態SQL,可以使用暫存預存程序,該過程(臨時表)被放在Tempdb中。以前由於SQL SERVER對複雜的數學計算不支援,所以不得不將這個工作放在其他的層上而增加網路的開銷。SQL2000支持UDFs, 現在支持複雜的數學計算,函數的返回值不要太大,這樣的開銷很大。使用者自訂函數象游標一樣執行的消耗大量的資源,如果返回大的結果採用存儲過程。
- 不要在一句話裡再三的使用相同的函數,浪費資源,將結果放在變數裡再調用更快。
- SELECT COUNT(*)的效率教低,儘量變通他的寫法,而EXISTS快.同時請注意區別: select count(Field of null) from Table 和 select count(Field of NOT null) from Table 的返回值是不同的!!
- 當伺服器的記憶體夠多時,配製執行緒數量 = 最大連接數+5,這樣能發揮最大的效率;否則使用 配製執行緒數量<最大連接數啟用SQL SERVER的執行緒池來解決,如果還是數量 = 最大連接數+5,嚴重的損害伺服器的性能。
- 按照一定的次序來訪問你的表。如果你先鎖住表A,再鎖住表B,那麼在所有的存儲過程中都要按照這個順序來鎖定它們。如果你(不經意的)某個存儲過程中先鎖定表B,再鎖定表A,這可能就會導致一個鎖死。如果鎖定順序沒有被預先詳細的設計好,鎖死很難被發現。
- 通過SQL Server Performance Monitor監視相應硬體的負載 Memory: Page Faults / sec計數器如果該值偶爾走高,表明當時有執行緒競爭記憶體。如果持續很高,則記憶體可能是瓶頸。
a、% DPC Time 指在範例間隔期間處理器用在緩延程式調用(DPC)接收和提供服務的百分比。(DPC 正在運行的為比標準間隔優先權低的間隔)。由於 DPC 是以特權模式執行的,DPC 時間的百分比為特權時間 百分比的一部分。這些時間單獨計算並且不屬於間隔計算總數的一部 分。這個總數顯示了作為實例時間百分比的平均忙時。
b、%Processor Time計數器 如果該參數值持續超過95%,表明瓶頸是CPU。可以考慮增加一個處理器或換一個更快的處理器。
c、% Privileged Time 指非閒置處理器時間用於特權模式的百分比。(特權模式是為作業系統元件和操縱硬體驅動程式而設計的一種處理模式。它允許直接訪問硬體和所有記憶體。另一種模式為使用者模式,它是一種為應用程式、環境分系統和整數分系統設計的一種有限處理模式。作業系統將應用程式執行緒轉換成特權模式以訪問作業系統服務)。 特權時間的 % 包括為間斷和 DPC 提供服務的時間。特權時間比率高可能是由於失敗設備產生的大數量的間隔而引起的。這個計數器將平均忙時作為樣本時間的一部分顯示。
d、% User Time表示耗費CPU的資料庫操作,如排序,執行aggregate functions等。如果該值很高,可考慮增加索引,儘量使用簡單的表聯接,水準分割大表格等方法來降低該值。 Physical Disk: Curretn Disk Queue Length計數器該值應不超過磁片數的1.5~2倍。要提高性能,可增加磁片。 SQLServer:Cache Hit Ratio計數器該值越高越好。如果持續低於80%,應考慮增加記憶體。 注意該參數值是從SQL Server啟動後,就一直累加記數,所以運行經過一段時間後,該值將不能反映系統當前值。 - 分析select emp_name form employee where salary > 3000 在此語句中若salary是Float類型的,則優化器對其進行優化為Convert(float,3000),因為3000是個整數,我們應在程式設計時使用3000.0而不要等運行時讓DBMS進行轉化。同樣字元和整型資料的轉換。
- 讀取的關聯同寫的順序 select a.personMemberID, * from chineseresume a,personmember b where personMemberID = b.referenceid and a.personMemberID = 'JCNPRH39681' (A = B , B = ‘號碼') select a.personMemberID, * from chineseresume a,personmember b where a.personMemberID = b.referenceid and a.personMemberID = 'JCNPRH39681' and b.referenceid = 'JCNPRH39681' (A = B , B = ‘號碼', A = ‘號碼') select a.personMemberID, * from chineseresume a,personmember b where b.referenceid = 'JCNPRH39681' and a.personMemberID = 'JCNPRH39681' (B = ‘號碼', A = ‘號碼')。
(此篇文章為網路轉載,如有侵權請告知,會盡速將文章下架!)
-
上層分類: 知識庫文章