【技術實現步驟摘要】
本專利技術涉及積分領域,特別是涉及一種建立緩存優先級預測機制實現lru優化的方法。
技術介紹
1、關于操作系統的內存管理,如何節省利用容量不大的內存為最多的進程提供資源,一直是研究的重要方向。而內存的虛擬存儲管理,是現在最通用,最成功的方式——在內存有限的情況下,擴展一部分外存作為虛擬內存,真正的內存只存儲當前運行時所用得到信息。這無疑極大地擴充了內存的功能,極大地提高了計算機的并發度。虛擬頁式存儲管理,則是將進程所需空間劃分為多個頁面,內存中只存放當前所需頁面,其余頁面放入外存的管理方式。
2、然而,有利就有弊,虛擬頁式存儲管理減少了進程所需的內存空間,卻也帶來了運行時間變長這一缺點:進程運行過程中,不可避免地要把在外存中存放的一些信息和內存中已有的進行交換,由于外存的低速,這一步驟所花費的時間不可忽略。因而,采取盡量好的算法以減少讀取外存的次數,顯得非常有必要。lru算法是解決問題的主流算法之一。
3、lru是least?recently?used的縮寫,即最近最少使用,是一種常用的頁面置換算法,選擇最近最久未使用的頁面予以淘汰。該算法賦予每個頁面一個訪問字段,用來記錄一個頁面自上次被訪問以來所經歷的時間?t,當須淘汰一個頁面時,選擇現有頁面中其?t?值最大的,即最近最少使用的頁面予以淘汰。
4、?lru實現簡單,在一般情況下能夠表現出很好的命中率,是一個“性價比”很高的算法,平時也很常用。雖然lru對突發性的稀疏流量(sparse?bursts)表現很好,但同時也會產生緩存污染,舉例來說
5、所以需要在當前時序緯度的算法基礎上,增加多種業務應用統計屬性,并通過應用統計屬性預測緩存優先級,來彌補lru在應用中的準確率缺陷,實現lru的改進和優化。本專利技術專利正是基于此思想來實現。
技術實現思路
1、本專利技術提供了一種建立緩存優先級預測機制實現lru優化的方法。在傳統lru算法基礎上,增加基于使用時間維度+多種業務維度的多維度標簽,并通過統計業務標簽的使用時間及頻率,來預測某個緩存的優先級,淘汰優先級最低的緩存,實現lru在應用過程中準確率的優化和提升。本專利技術包括緩存及標簽模型模塊、緩存標簽及歷史數據維護模塊、緩存標簽預測及是使用統計模塊、緩存優先級計算及使用次數維護模塊、緩存優先級淘汰模塊、緩存使用模塊。
2、1.?緩存及標簽模型模塊:
3、(1)每個緩存在生成的時候有一個唯一id,同時內置固定的優先級別、最近使用次數(15分鐘)、最近使用時間?。另外每個緩存支持動態的業務標簽維護;
4、(2)每個標簽為一個全局的標簽,包含最近使用時間、使用時長、空閑時長、最近使用次數、標簽id;
5、(3)標簽歷史記錄按照時間進行維護(比如間隔5秒),相同時段內的記錄使用次數。
6、緩存及標簽模型邏輯示例如圖1所示。
7、2.緩存標簽及歷史數據維護模塊:在給一個緩存通過標簽id添加一個業務標簽的時候,如果標簽不存在會生成一個全局的標簽信息,標簽的下次使用時間為當前時段。每次緩存命中的時候,都增加緩存所有標簽最新使用歷史記錄,同時更新相同時段的歷史記錄增加使用次數。
8、3.緩存標簽預測及是使用統計模塊:
9、(1)標簽的使用次數為使用次數為計算時間內的所有使用次數;
10、(2)過濾出最近統計時間內時段使用次數大于閥值的歷史記錄,時間段連續的記錄合并為一條記錄,兩條歷史記錄的時間跨度為歷史記錄的使用時長。相鄰兩條記錄之間的開始使用時間之差為記錄空閑時間。
11、歷史記錄過濾方法如圖2所示。
12、把它們按照從近到遠權重遞減分配不同的權重,最后根據公式(如圖3)計算出緩存標簽的使用時長和空閑時長。其中:
13、ai?某個時段百分比權重;
14、βi?:?某個時段使用時長或者空閑時長;
15、n?:?合并后的時段數。
16、3.緩存優先級計算及使用次數維護模塊:
17、(1)如果當前時間在緩存標簽最近使用時間和緩存標簽最近使用時間?+?使用時長?,表示緩存有效,預計使用時間為立刻;
18、(2)?無效緩沖的當前時間?+?空閑時長作為緩存標簽的預計使用時間;
19、(3)緩存優先級最高1級,最低10級?,優先級公式=(當前時間?-?緩存預計使用時間)/?優先級時長?+?1,大于10的全部按照10進行計算;
20、(4)取預計時間最近的緩存標簽作為緩存的統計標簽來計算優先級,使用記錄為最近緩存標簽的使用記錄。
21、4.緩存優先級淘汰模塊:定期檢查緩存信息,在發現緩存記錄大于最大緩存時啟動緩存淘汰機制,緩存淘汰優先級最高的緩存,如果優先級相等淘汰使用次數最少的緩存。
22、5.緩存使用模塊:一個業務系統在使用緩存之前先對緩存進行全局的業務標簽規劃,定義要使用的標簽規則,在保存緩存的時候傳入緩存id、相關標簽id,及緩存的內容,在使用過程中也可以動態的維護緩存的標簽,獲取緩存內容的時候只要傳入緩存id即可。
本文檔來自技高網...【技術保護點】
1.一種建立緩存優先級預測機制實現LRU優化的方法其特征在于:在傳統LRU算法基礎上,增加基于使用時間維度+多種業務維度的多維度標簽,并通過統計業務標簽的使用時間及頻率,來預測某個緩存的優先級,淘汰優先級最低的緩存,實現LRU在應用過程中準確率的優化和提升。
2.本專利技術包括緩存及標簽模型模塊、緩存標簽及歷史數據維護模塊、緩存標簽預測及是使用統計模塊、緩存優先級計算及使用次數維護模塊、緩存優先級淘汰模塊、緩存使用模塊。
3.根據權利要求1所述的一種建立緩存優先級預測機制實現LRU優化的方法其特征在于,其特征在于:緩存及標簽模型模塊:每個緩存在生成的時候有一個唯一ID,同時內置固定的優先級別、最近使用次數(15分鐘)、最近使用時間;另外每個緩存支持動態的業務標簽維護;每個標簽為一個全局的標簽,包含最近使用時間、使用時長、空閑時長、最近使用次數、標簽ID;標簽歷史記錄按照時間進行維護(比如間隔5秒),相同時段內的記錄使用次數。
4.根據權利要求1所述的一種建立緩存優先級預測機制實現LRU優化的方法其特征在于,其特征在于:緩存標簽及歷史數據維護模塊
5.根據權利要求1所述的一種建立緩存優先級預測機制實現LRU優化的方法其特征在于,其特征在于:緩存標簽預測及是使用統計模塊:標簽的使用次數為使用次數為計算時間內的所有使用次數;過濾出最近統計時間內時段使用次數大于閥值的歷史記錄,時間段連續的記錄合并為一條記錄,兩條歷史記錄的時間跨度為歷史記錄的使用時長;相鄰兩條記錄之間的開始使用時間之差為記錄空閑時間;把它們按照從近到遠權重遞減分配不同的權重,最后根據公式(如圖3)計算出緩存標簽的使用時長和空閑時長,其中:ai某個時段百分比權重;βi?:?某個時段使用時長或者空閑時長;n?:合并后的時段數。
6.根據權利要求1所述的一種建立緩存優先級預測機制實現LRU優化的方法其特征在于,其特征在于:緩存優先級計算及使用次數維護模塊:如果當前時間在緩存標簽最近使用時間和緩存標簽最近使用時間?+?使用時長?,表示緩存有效,預計使用時間為立刻;無效緩沖的當前時間?+?空閑時長作為緩存標簽的預計使用時間;緩存優先級最高1級,最低10級,優先級公式=(當前時間?-?緩存預計使用時間)/?優先級時長?+?1,大于10的全部按照10進行計算;取預計時間最近的緩存標簽作為緩存的統計標簽來計算優先級,使用記錄為最近緩存標簽的使用記錄。
7.根據權利要求1所述的一種建立緩存優先級預測機制實現LRU優化的方法其特征在于,其特征在于:緩存優先級淘汰模塊:定期檢查緩存信息,在發現緩存記錄大于最大緩存時啟動緩存淘汰機制,緩存淘汰優先級最高的緩存,如果優先級相等淘汰使用次數最少的緩存。
8.根據權利要求1所述的一種建立緩存優先級預測機制實現LRU優化的方法其特征在于,其特征在于:緩存使用模塊:一個業務系統在使用緩存之前先對緩存進行全局的業務標簽規劃,定義要使用的標簽規則,在保存緩存的時候傳入緩存ID、相關標簽ID,及緩存的內容,在使用過程中也可以動態的維護緩存的標簽,獲取緩存內容的時候只要傳入緩存ID即可。
...【技術特征摘要】
1.一種建立緩存優先級預測機制實現lru優化的方法其特征在于:在傳統lru算法基礎上,增加基于使用時間維度+多種業務維度的多維度標簽,并通過統計業務標簽的使用時間及頻率,來預測某個緩存的優先級,淘汰優先級最低的緩存,實現lru在應用過程中準確率的優化和提升。
2.本發明包括緩存及標簽模型模塊、緩存標簽及歷史數據維護模塊、緩存標簽預測及是使用統計模塊、緩存優先級計算及使用次數維護模塊、緩存優先級淘汰模塊、緩存使用模塊。
3.根據權利要求1所述的一種建立緩存優先級預測機制實現lru優化的方法其特征在于,其特征在于:緩存及標簽模型模塊:每個緩存在生成的時候有一個唯一id,同時內置固定的優先級別、最近使用次數(15分鐘)、最近使用時間;另外每個緩存支持動態的業務標簽維護;每個標簽為一個全局的標簽,包含最近使用時間、使用時長、空閑時長、最近使用次數、標簽id;標簽歷史記錄按照時間進行維護(比如間隔5秒),相同時段內的記錄使用次數。
4.根據權利要求1所述的一種建立緩存優先級預測機制實現lru優化的方法其特征在于,其特征在于:緩存標簽及歷史數據維護模塊:在給一個緩存通過標簽id添加一個業務標簽的時候,如果標簽不存在會生成一個全局的標簽信息,標簽的下次使用時間為當前時段;每次緩存命中的時候,都增加緩存所有標簽最新使用歷史記錄,同時更新相同時段的歷史記錄增加使用次數。
5.根據權利要求1所述的一種建立緩存優先級預測機制實現lru優化的方法其特征在于,其特征在于:緩存標簽預測及是使用統計模塊:標簽的使用次數為使用次數為計算時間內的所有使用次數;過濾出最近統計時間內時段使用次數大于閥值的歷史記錄,...
【專利技術屬性】
技術研發人員:蔣敬洪,陶思翰,朱志強,
申請(專利權)人:翼集分上海數字科技有限公司,
類型:發明
國別省市:
還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。