電網(wǎng)監(jiān)控系統(tǒng)中實(shí)時(shí)數(shù)據(jù)庫(kù)的快速檢索

1 引言 　　近年來(lái)，實(shí)時(shí)數(shù)據(jù)庫(kù)的研究已經(jīng)成為現(xiàn)代數(shù)據(jù)庫(kù)的重要研究方向之一，在數(shù)據(jù)庫(kù)的研究領(lǐng)域受到了極大的關(guān)注。作為工控軟件的關(guān)鍵技術(shù)之一，實(shí)時(shí)數(shù)據(jù)庫(kù)在一些實(shí)時(shí)性要求較強(qiáng)的系統(tǒng)中發(fā)揮著十分重要的作用。實(shí)時(shí)數(shù)據(jù)庫(kù)適用于處理不斷更新且快速變化的數(shù)據(jù)，以及具有時(shí)間限制的事務(wù)。例如在電網(wǎng)監(jiān)控系統(tǒng)中，常常需要在幾秒內(nèi)刷新幾千甚至上萬(wàn)種實(shí)時(shí)量和狀態(tài)量，同時(shí)，為保持監(jiān)控畫面與現(xiàn)場(chǎng)狀態(tài)的一致性，還需要刷新相應(yīng)的監(jiān)控畫面。這就對(duì)實(shí)時(shí)數(shù)據(jù)庫(kù)的檢索效率提出了更高的要求。 2 影響檢索效率的因素 　　在實(shí)時(shí)數(shù)據(jù)庫(kù)系統(tǒng)中，數(shù)據(jù)的存取速度是影響檢索效率的主要瓶頸之一。在對(duì)計(jì)算機(jī)硬件的性能進(jìn)行分析后可以確定，硬盤的存取速度大致為100Mb/s，如果頻繁的進(jìn)行外存的存取操作，將會(huì)嚴(yán)重影響系統(tǒng)效率。其次是查找表的平均查找長(zhǎng)度的影響，在大數(shù)據(jù)量的情況下，如果平均查找長(zhǎng)度較大也會(huì)成為系統(tǒng)的瓶頸。同時(shí)由于數(shù)據(jù)處理的不可預(yù)知性，當(dāng)某個(gè)數(shù)據(jù)的處理過(guò)程不能在規(guī)定的時(shí)間內(nèi)完成時(shí)，還可能使實(shí)時(shí)數(shù)據(jù)庫(kù)中的數(shù)據(jù)失效或者遺漏一些重要的數(shù)據(jù)及事件，即會(huì)引起數(shù)據(jù)處理的滯后甚至沖突。 　　當(dāng)然，隨著微電子技術(shù)的發(fā)展，大容量?jī)?nèi)存已經(jīng)不是設(shè)想而成為事實(shí)。通過(guò)擴(kuò)展內(nèi)存可以把所有需要實(shí)時(shí)存取的數(shù)據(jù)放在內(nèi)存中，而把實(shí)時(shí)數(shù)據(jù)庫(kù)中用于決策支持的歷史記錄，以及其他的一些派生數(shù)據(jù)（報(bào)警記錄、事故記錄等）存放在外存上的關(guān)系數(shù)據(jù)庫(kù)中，這在一定程度上可以緩解對(duì)速度的要求。但內(nèi)存不可能無(wú)限制擴(kuò)大，為此必須研究軟件上的方法。 3 基于向量的檢索 3．1 數(shù)據(jù)結(jié)構(gòu) 在電網(wǎng)監(jiān)控系統(tǒng)中實(shí)時(shí)數(shù)據(jù)庫(kù)需要保存從各個(gè)測(cè)控裝置采集上來(lái)的數(shù)據(jù)，用于實(shí)時(shí)監(jiān)視和現(xiàn)場(chǎng)控制，并對(duì)監(jiān)控點(diǎn)的情況進(jìn)行報(bào)警和事故的判斷和分析。這些數(shù)據(jù)的存儲(chǔ)結(jié)構(gòu)對(duì)查找表的平均查找長(zhǎng)度有重要的影響。 　　根據(jù)向量（vector）檢索效率比較高的特點(diǎn)，本文采用了向量來(lái)組織這些數(shù)據(jù)，所形成的實(shí)時(shí)數(shù)據(jù)庫(kù)的存儲(chǔ)結(jié)構(gòu)如圖1所示。其中，現(xiàn)場(chǎng)的每個(gè)監(jiān)控點(diǎn)是由廠站名稱、監(jiān)控點(diǎn)類型、和監(jiān)控點(diǎn)名稱唯一確定的，每個(gè)監(jiān)控點(diǎn)的狀態(tài)則通過(guò)多個(gè)參數(shù)來(lái)描述，這些參數(shù)通常是由現(xiàn)場(chǎng)值、報(bào)警標(biāo)志、報(bào)警上下限、報(bào)警死區(qū)、工作狀態(tài)和一些統(tǒng)計(jì)量等組成。 3．2算法的實(shí)現(xiàn) 　　為了減小平均查找長(zhǎng)度,該實(shí)時(shí)數(shù)據(jù)庫(kù)的排序和檢索可以按照如下算法實(shí)現(xiàn)： 　　1．廠站名稱的排序和檢索。根據(jù)廠站的數(shù)量一般都相對(duì)較少的特點(diǎn)，構(gòu)造如下集合間的映射： map：{廠站名稱} {向量下標(biāo)} 其中，廠站名稱為鍵，向量下標(biāo)為值，于是就可由廠站名稱直接得到該向量元素的下標(biāo)，從而查找到該廠站。 　　2．監(jiān)控點(diǎn)類型和監(jiān)控點(diǎn)名稱的排序和檢索。針對(duì)監(jiān)控點(diǎn)類型和監(jiān)控點(diǎn)的名稱的數(shù)量相對(duì)都比較大的特點(diǎn)，采用hash表對(duì)它們進(jìn)行排序。為了提高地址計(jì)算的效率，用直接定址法來(lái)構(gòu)造哈希函數(shù)，采用鏈地址法來(lái)處理沖突。首先根據(jù)初始的數(shù)據(jù)確定哈希表的長(zhǎng)度，一般情況下為了減少?zèng)_突，可以生成一個(gè)空向量使該向量的長(zhǎng)度大于初始數(shù)據(jù)的長(zhǎng)度，然后由給定的哈希函數(shù)和沖突處理函數(shù)把相應(yīng)的監(jiān)控點(diǎn)類型或監(jiān)控點(diǎn)的名稱映射到向量的各個(gè)元素中。如果該向量表已經(jīng)裝滿，只需要在該向量尾部中添加一個(gè)元素把新增的數(shù)據(jù)填充到該元素中，然后把該元素的下標(biāo)放到鏈地址表中。 　　3．監(jiān)控點(diǎn)參數(shù)的排序和檢索。電網(wǎng)監(jiān)控系統(tǒng)中每個(gè)監(jiān)控點(diǎn)對(duì)應(yīng)現(xiàn)場(chǎng)中的一個(gè)裝置，所以監(jiān)控點(diǎn)需要一些參數(shù)來(lái)反映該裝置的狀態(tài)，一般情況下，監(jiān)控點(diǎn)的參數(shù)個(gè)數(shù)都不會(huì)太多。根據(jù)順序存儲(chǔ)和順序檢索在數(shù)據(jù)量比較少時(shí)，效率比較高的特點(diǎn)，采取順序存儲(chǔ)和順序檢索的方法來(lái)實(shí)現(xiàn)。并且根據(jù)檢索頻率來(lái)動(dòng)態(tài)調(diào)整參數(shù)的位置，使檢索頻率高的參數(shù)位于向量的前部，檢索頻率低的參數(shù)位于向量的后部。 4．多線程技術(shù)的引入 　　在電網(wǎng)監(jiān)控系統(tǒng)中，實(shí)時(shí)數(shù)據(jù)庫(kù)系統(tǒng)要實(shí)現(xiàn)現(xiàn)場(chǎng)的數(shù)據(jù)實(shí)時(shí)的更新，能夠根據(jù)現(xiàn)場(chǎng)的數(shù)據(jù)進(jìn)行安全監(jiān)視、現(xiàn)場(chǎng)模擬，對(duì)現(xiàn)場(chǎng)的數(shù)據(jù)根據(jù)用戶的設(shè)置的時(shí)間間隔進(jìn)行保存，發(fā)生事故的監(jiān)控點(diǎn)進(jìn)行事故追憶等。如果這些功能全部由一個(gè)線程來(lái)完成，會(huì)因資源沖突等問(wèn)題而影響處理效率。為此，我們采用了圖2所示的多線程結(jié)構(gòu)。整個(gè)系統(tǒng)有通信線程、報(bào)警處理線程、寫歷史庫(kù)線程、寫磁盤線程、顯示監(jiān)控線程和主界面線程組成。 通信線程主要負(fù)責(zé)實(shí)時(shí)數(shù)據(jù)庫(kù)和現(xiàn)場(chǎng)的通信。現(xiàn)場(chǎng)的各個(gè)測(cè)控裝置把采集來(lái)的數(shù)據(jù)送到各個(gè)端口，通信線程實(shí)時(shí)的掃描各個(gè)端口，通過(guò)各種規(guī)約轉(zhuǎn)換把現(xiàn)場(chǎng)采集來(lái)的生數(shù)據(jù)轉(zhuǎn)換為系統(tǒng)或用戶能夠理解的熟數(shù)據(jù)送到實(shí)時(shí)數(shù)據(jù)庫(kù)中，必要時(shí)把生數(shù)據(jù)也一同送到實(shí)時(shí)數(shù)據(jù)庫(kù)中，同時(shí)接受顯示監(jiān)控線程傳來(lái)的各種控制和調(diào)節(jié)命令，并通過(guò)相應(yīng)的通信規(guī)約轉(zhuǎn)換為測(cè)控裝置能夠識(shí)別的數(shù)據(jù)，送到底層裝置中去執(zhí)行。通信線程還負(fù)責(zé)把需要保存的現(xiàn)場(chǎng)生數(shù)據(jù)、通信模塊的系統(tǒng)信息和故障信息寫入一緩沖區(qū)隊(duì)列中，交由另一線程來(lái)處理。 　　報(bào)警處理線程主要負(fù)責(zé)數(shù)據(jù)庫(kù)的實(shí)時(shí)掃描、報(bào)警和事故的判斷和處理。該線程由通信線程觸發(fā)，處理過(guò)程由圖3報(bào)警處理流程圖所示，當(dāng)有數(shù)據(jù)寫入實(shí)時(shí)數(shù)據(jù)庫(kù)時(shí)就觸發(fā)該線程。為了防止報(bào)警和事故事件的遺漏，用全局變量 NoProccessCount來(lái)記錄在一個(gè)實(shí)時(shí)數(shù)據(jù)庫(kù)的掃描周期中現(xiàn)場(chǎng)值已經(jīng)改變但未被處理的點(diǎn)數(shù)，用來(lái)bNew標(biāo)志該點(diǎn)的現(xiàn)場(chǎng)值在該掃描周期中是否被改變。當(dāng)通信線程寫實(shí)時(shí)數(shù)據(jù)庫(kù)時(shí)，置相應(yīng)點(diǎn)的bNew標(biāo)志為改變狀態(tài)，并把 NoProccessCount增1。當(dāng)報(bào)警處理線程觸發(fā)后，首先在實(shí)時(shí)庫(kù)中查找到該點(diǎn)， 使NoProccessCount減1，置bNew為未改變狀態(tài)，進(jìn)行報(bào)警和事故判斷。如果發(fā)生報(bào)警或事故則進(jìn)行相應(yīng)的處理，并把報(bào)警信息或事故追憶值寫入相應(yīng)的緩沖區(qū)隊(duì)列中，由另一線程來(lái)處理。然后判斷NoProccessCount是否為０。如果為０表示實(shí)時(shí)數(shù)據(jù)庫(kù)中沒(méi)有要處理的點(diǎn)，該線程等待直到下一次被觸發(fā)。否則掃描下一個(gè)監(jiān)控點(diǎn)，判斷該點(diǎn)的bNew是否處于改變狀態(tài)。若是，使bNew設(shè)為未改變狀態(tài)，NoProccessCount減1，進(jìn)行報(bào)警和事故判斷。如果發(fā)生報(bào)警和事故進(jìn)行相應(yīng)的處理，然后判斷NoProccessCount的值。循環(huán)執(zhí)行以上步驟，直到被結(jié)束事件觸發(fā)，該線程結(jié)束。 　　寫歷史庫(kù)線程主要負(fù)責(zé)把實(shí)時(shí)數(shù)據(jù)庫(kù)中的數(shù)據(jù)定時(shí)地保存到外存數(shù)據(jù)庫(kù)中。在電網(wǎng)監(jiān)控系統(tǒng)中，允許用戶自定義歷史庫(kù)數(shù)據(jù)，即用戶可以定義要保存的狀態(tài)變化量和測(cè)量值以及保存的時(shí)間間隔。在實(shí)現(xiàn)時(shí)為提高效率，我們將所有需要保存歷史數(shù)據(jù)的監(jiān)控點(diǎn)信息構(gòu)成一個(gè)鏈表，在該鏈表中歷史庫(kù)接點(diǎn)的結(jié)構(gòu)為： struct HistoryNode{ string stationName; string typeName; string pointName; time_t startTime; double intervalTime; struct HistoryNode *next; } ; 其中：stationName為該點(diǎn)的廠站名稱，typeName 為該點(diǎn)的類型，pointName為該點(diǎn)的名稱，startTime為上一次存入歷史庫(kù)的時(shí)間，intervalTime為寫入歷史庫(kù)的時(shí)間間隔。寫歷史庫(kù)線程實(shí)時(shí)對(duì)鏈表進(jìn)行掃描，方法是：對(duì)鏈表中的每一個(gè)點(diǎn)，首先取系統(tǒng)時(shí)間與startTime比較，如果系統(tǒng)時(shí)間和startTime之差大于intervalTime，說(shuō)明該點(diǎn)的寫歷史庫(kù)周期已到，這時(shí)由stationName、typeName、pointName構(gòu)成索引在檢索實(shí)時(shí)數(shù)據(jù)庫(kù)，得到該點(diǎn)的值，并將其寫入相應(yīng)緩沖區(qū)隊(duì)列中，然后由寫磁盤線程寫入外存數(shù)據(jù)庫(kù)，否則掃描下一個(gè)節(jié)點(diǎn)。 　　顯示監(jiān)控線程主要負(fù)責(zé)現(xiàn)場(chǎng)實(shí)時(shí)模擬和現(xiàn)場(chǎng)控制?，F(xiàn)場(chǎng)中的每個(gè)點(diǎn)在模擬畫面中都有相應(yīng)的映像，該線程定時(shí)掃描畫面中每個(gè)映像點(diǎn)，根據(jù)映像點(diǎn)的廠站名稱、監(jiān)控點(diǎn)類型、監(jiān)控點(diǎn)名稱查找實(shí)時(shí)數(shù)據(jù)庫(kù)，得到該模擬點(diǎn)的值，并根據(jù)該值來(lái)改變畫面上模擬點(diǎn)的狀態(tài)或顯示該值。 　　主界面線程主要負(fù)責(zé)用戶的在線設(shè)置工作。該線程把用戶自定義的一些信息如歷史庫(kù)數(shù)據(jù)定義、報(bào)警允許定義、報(bào)警上下限定義等寫入實(shí)時(shí)數(shù)據(jù)庫(kù)中。同時(shí)還負(fù)責(zé)各種線程的管理工作。 寫磁盤線程主要負(fù)責(zé)把緩沖區(qū)隊(duì)列中的數(shù)據(jù)寫入外存，對(duì)于緩沖區(qū)隊(duì)列的讀寫引入了生產(chǎn)者—消費(fèi)者模型，參見(jiàn)圖4。在該模型中分別有一個(gè)生產(chǎn)者（RP）和一個(gè)消費(fèi)者（WP）兩個(gè)緩存池，其中通信進(jìn)程、報(bào)警處理線程、寫歷史庫(kù)線程為生產(chǎn)者，寫磁盤線程為消費(fèi)者，同一時(shí)刻對(duì)同一個(gè)緩存池的生產(chǎn)者和消費(fèi)者要互斥地訪問(wèn)。開(kāi)始時(shí)，由生產(chǎn)者即通信進(jìn)程、報(bào)警處理線程、寫歷史庫(kù)線程其中之一，負(fù)責(zé)先將兩個(gè)緩存池都充滿，當(dāng)兩個(gè)緩存池都寫滿后，如果系統(tǒng)中還有新產(chǎn)生的數(shù)據(jù)，則擴(kuò)大第二個(gè)緩沖池。然后把第一個(gè)緩沖池交給寫磁盤線程，并通知它可以讀取數(shù)據(jù)了，這是寫磁盤線程開(kāi)始把第一個(gè)緩沖池的數(shù)據(jù)寫入外存中。當(dāng)寫磁盤線程讀完一個(gè)緩存池后，把該緩沖池交給生產(chǎn)者線程，并通知生產(chǎn)者線程，該緩存池已空可以繼續(xù)接收數(shù)據(jù)了，然后，等待第二個(gè)緩沖池可讀時(shí)把該緩沖池中的數(shù)據(jù)寫入外存。這樣輪流的進(jìn)行讀寫，使得通信進(jìn)程、報(bào)警處理線程、寫歷史庫(kù)線程對(duì)數(shù)據(jù)的操作都是在內(nèi)存中進(jìn)行，可以大大提高處理的效率。 整個(gè)系統(tǒng)通過(guò)各個(gè)線程之間的相互協(xié)調(diào)來(lái)工作，各線程之間利用事件來(lái)觸發(fā)，可以避免因循環(huán)檢測(cè)而浪費(fèi)系統(tǒng)效率。 5．結(jié)束語(yǔ) 　　與現(xiàn)存的實(shí)時(shí)數(shù)據(jù)庫(kù)的檢索方法相比，本文提出的兩種方法在減小表的平均查找長(zhǎng)度和提高數(shù)據(jù)處理的速度方面取得了較好的效果。例如在文獻(xiàn)【15】和【16】中實(shí)時(shí)數(shù)據(jù)庫(kù)的存儲(chǔ)形式采用的是Ｂ-樹(shù)結(jié)構(gòu)和順序結(jié)構(gòu)。假定實(shí)時(shí)數(shù)據(jù)庫(kù)中數(shù)據(jù)項(xiàng)的個(gè)數(shù)為n，平均查找長(zhǎng)度ASL。采<