• 
    <ul id="o6k0g"></ul>
    <ul id="o6k0g"></ul>

    一種建立緩存優先級預測機制實現LRU優化的方法技術

    技術編號:40605686 閱讀:18 留言:0更新日期:2024-03-12 22:11
    本發明專利技術提供了一種建立緩存優先級預測機制實現LRU優化的方法。在傳統LRU算法基礎上,增加基于使用時間維度+多種業務維度的多維度標簽,并通過統計業務標簽的使用時間及頻率,來預測某個緩存的優先級,淘汰優先級最低的緩存,實現LRU在應用過程中準確率的優化和提升。本發明專利技術包括緩存及標簽模型模塊、緩存標簽及歷史數據維護模塊、緩存標簽預測及是使用統計模塊、緩存優先級計算及使用次數維護模塊、緩存優先級淘汰模塊、緩存使用模塊。

    【技術實現步驟摘要】

    本專利技術涉及積分領域,特別是涉及一種建立緩存優先級預測機制實現lru優化的方法。


    技術介紹

    1、關于操作系統的內存管理,如何節省利用容量不大的內存為最多的進程提供資源,一直是研究的重要方向。而內存的虛擬存儲管理,是現在最通用,最成功的方式——在內存有限的情況下,擴展一部分外存作為虛擬內存,真正的內存只存儲當前運行時所用得到信息。這無疑極大地擴充了內存的功能,極大地提高了計算機的并發度。虛擬頁式存儲管理,則是將進程所需空間劃分為多個頁面,內存中只存放當前所需頁面,其余頁面放入外存的管理方式。

    2、然而,有利就有弊,虛擬頁式存儲管理減少了進程所需的內存空間,卻也帶來了運行時間變長這一缺點:進程運行過程中,不可避免地要把在外存中存放的一些信息和內存中已有的進行交換,由于外存的低速,這一步驟所花費的時間不可忽略。因而,采取盡量好的算法以減少讀取外存的次數,顯得非常有必要。lru算法是解決問題的主流算法之一。

    3、lru是least?recently?used的縮寫,即最近最少使用,是一種常用的頁面置換算法,選擇最近最久未使用的頁面予以淘汰。該算法賦予每個頁面一個訪問字段,用來記錄一個頁面自上次被訪問以來所經歷的時間?t,當須淘汰一個頁面時,選擇現有頁面中其?t?值最大的,即最近最少使用的頁面予以淘汰。

    4、?lru實現簡單,在一般情況下能夠表現出很好的命中率,是一個“性價比”很高的算法,平時也很常用。雖然lru對突發性的稀疏流量(sparse?bursts)表現很好,但同時也會產生緩存污染,舉例來說,如果偶然性的要對全量數據進行遍歷,那么“歷史訪問記錄”就會被刷走,造成污染。另外,lru一般只是使用一個時間維度來表示緩存最近使用時間,在存儲不夠用的時候,會把使時間最遠的緩存進行回收,由于有一些業務的對于緩存在時間維度上分布不均勻,比如當前對于類型a的緩存使用非常頻繁,但是在下一個時間段對于b類型的緩存使用會非常頻繁,而這個時候由于緩存不足導致b類型的緩存被清理,導致重新加載浪費大量資源。

    5、所以需要在當前時序緯度的算法基礎上,增加多種業務應用統計屬性,并通過應用統計屬性預測緩存優先級,來彌補lru在應用中的準確率缺陷,實現lru的改進和優化。本專利技術專利正是基于此思想來實現。


    技術實現思路

    1、本專利技術提供了一種建立緩存優先級預測機制實現lru優化的方法。在傳統lru算法基礎上,增加基于使用時間維度+多種業務維度的多維度標簽,并通過統計業務標簽的使用時間及頻率,來預測某個緩存的優先級,淘汰優先級最低的緩存,實現lru在應用過程中準確率的優化和提升。本專利技術包括緩存及標簽模型模塊、緩存標簽及歷史數據維護模塊、緩存標簽預測及是使用統計模塊、緩存優先級計算及使用次數維護模塊、緩存優先級淘汰模塊、緩存使用模塊。

    2、1.?緩存及標簽模型模塊:

    3、(1)每個緩存在生成的時候有一個唯一id,同時內置固定的優先級別、最近使用次數(15分鐘)、最近使用時間?。另外每個緩存支持動態的業務標簽維護;

    4、(2)每個標簽為一個全局的標簽,包含最近使用時間、使用時長、空閑時長、最近使用次數、標簽id;

    5、(3)標簽歷史記錄按照時間進行維護(比如間隔5秒),相同時段內的記錄使用次數。

    6、緩存及標簽模型邏輯示例如圖1所示。

    7、2.緩存標簽及歷史數據維護模塊:在給一個緩存通過標簽id添加一個業務標簽的時候,如果標簽不存在會生成一個全局的標簽信息,標簽的下次使用時間為當前時段。每次緩存命中的時候,都增加緩存所有標簽最新使用歷史記錄,同時更新相同時段的歷史記錄增加使用次數。

    8、3.緩存標簽預測及是使用統計模塊:

    9、(1)標簽的使用次數為使用次數為計算時間內的所有使用次數;

    10、(2)過濾出最近統計時間內時段使用次數大于閥值的歷史記錄,時間段連續的記錄合并為一條記錄,兩條歷史記錄的時間跨度為歷史記錄的使用時長。相鄰兩條記錄之間的開始使用時間之差為記錄空閑時間。

    11、歷史記錄過濾方法如圖2所示。

    12、把它們按照從近到遠權重遞減分配不同的權重,最后根據公式(如圖3)計算出緩存標簽的使用時長和空閑時長。其中:

    13、ai?某個時段百分比權重;

    14、βi?:?某個時段使用時長或者空閑時長;

    15、n?:?合并后的時段數。

    16、3.緩存優先級計算及使用次數維護模塊:

    17、(1)如果當前時間在緩存標簽最近使用時間和緩存標簽最近使用時間?+?使用時長?,表示緩存有效,預計使用時間為立刻;

    18、(2)?無效緩沖的當前時間?+?空閑時長作為緩存標簽的預計使用時間;

    19、(3)緩存優先級最高1級,最低10級?,優先級公式=(當前時間?-?緩存預計使用時間)/?優先級時長?+?1,大于10的全部按照10進行計算;

    20、(4)取預計時間最近的緩存標簽作為緩存的統計標簽來計算優先級,使用記錄為最近緩存標簽的使用記錄。

    21、4.緩存優先級淘汰模塊:定期檢查緩存信息,在發現緩存記錄大于最大緩存時啟動緩存淘汰機制,緩存淘汰優先級最高的緩存,如果優先級相等淘汰使用次數最少的緩存。

    22、5.緩存使用模塊:一個業務系統在使用緩存之前先對緩存進行全局的業務標簽規劃,定義要使用的標簽規則,在保存緩存的時候傳入緩存id、相關標簽id,及緩存的內容,在使用過程中也可以動態的維護緩存的標簽,獲取緩存內容的時候只要傳入緩存id即可。

    本文檔來自技高網...

    【技術保護點】

    1.一種建立緩存優先級預測機制實現LRU優化的方法其特征在于:在傳統LRU算法基礎上,增加基于使用時間維度+多種業務維度的多維度標簽,并通過統計業務標簽的使用時間及頻率,來預測某個緩存的優先級,淘汰優先級最低的緩存,實現LRU在應用過程中準確率的優化和提升。

    2.本專利技術包括緩存及標簽模型模塊、緩存標簽及歷史數據維護模塊、緩存標簽預測及是使用統計模塊、緩存優先級計算及使用次數維護模塊、緩存優先級淘汰模塊、緩存使用模塊。

    3.根據權利要求1所述的一種建立緩存優先級預測機制實現LRU優化的方法其特征在于,其特征在于:緩存及標簽模型模塊:每個緩存在生成的時候有一個唯一ID,同時內置固定的優先級別、最近使用次數(15分鐘)、最近使用時間;另外每個緩存支持動態的業務標簽維護;每個標簽為一個全局的標簽,包含最近使用時間、使用時長、空閑時長、最近使用次數、標簽ID;標簽歷史記錄按照時間進行維護(比如間隔5秒),相同時段內的記錄使用次數。

    4.根據權利要求1所述的一種建立緩存優先級預測機制實現LRU優化的方法其特征在于,其特征在于:緩存標簽及歷史數據維護模塊:在給一個緩存通過標簽ID添加一個業務標簽的時候,如果標簽不存在會生成一個全局的標簽信息,標簽的下次使用時間為當前時段;每次緩存命中的時候,都增加緩存所有標簽最新使用歷史記錄,同時更新相同時段的歷史記錄增加使用次數。

    5.根據權利要求1所述的一種建立緩存優先級預測機制實現LRU優化的方法其特征在于,其特征在于:緩存標簽預測及是使用統計模塊:標簽的使用次數為使用次數為計算時間內的所有使用次數;過濾出最近統計時間內時段使用次數大于閥值的歷史記錄,時間段連續的記錄合并為一條記錄,兩條歷史記錄的時間跨度為歷史記錄的使用時長;相鄰兩條記錄之間的開始使用時間之差為記錄空閑時間;把它們按照從近到遠權重遞減分配不同的權重,最后根據公式(如圖3)計算出緩存標簽的使用時長和空閑時長,其中:ai某個時段百分比權重;βi?:?某個時段使用時長或者空閑時長;n?:合并后的時段數。

    6.根據權利要求1所述的一種建立緩存優先級預測機制實現LRU優化的方法其特征在于,其特征在于:緩存優先級計算及使用次數維護模塊:如果當前時間在緩存標簽最近使用時間和緩存標簽最近使用時間?+?使用時長?,表示緩存有效,預計使用時間為立刻;無效緩沖的當前時間?+?空閑時長作為緩存標簽的預計使用時間;緩存優先級最高1級,最低10級,優先級公式=(當前時間?-?緩存預計使用時間)/?優先級時長?+?1,大于10的全部按照10進行計算;取預計時間最近的緩存標簽作為緩存的統計標簽來計算優先級,使用記錄為最近緩存標簽的使用記錄。

    7.根據權利要求1所述的一種建立緩存優先級預測機制實現LRU優化的方法其特征在于,其特征在于:緩存優先級淘汰模塊:定期檢查緩存信息,在發現緩存記錄大于最大緩存時啟動緩存淘汰機制,緩存淘汰優先級最高的緩存,如果優先級相等淘汰使用次數最少的緩存。

    8.根據權利要求1所述的一種建立緩存優先級預測機制實現LRU優化的方法其特征在于,其特征在于:緩存使用模塊:一個業務系統在使用緩存之前先對緩存進行全局的業務標簽規劃,定義要使用的標簽規則,在保存緩存的時候傳入緩存ID、相關標簽ID,及緩存的內容,在使用過程中也可以動態的維護緩存的標簽,獲取緩存內容的時候只要傳入緩存ID即可。

    ...

    【技術特征摘要】

    1.一種建立緩存優先級預測機制實現lru優化的方法其特征在于:在傳統lru算法基礎上,增加基于使用時間維度+多種業務維度的多維度標簽,并通過統計業務標簽的使用時間及頻率,來預測某個緩存的優先級,淘汰優先級最低的緩存,實現lru在應用過程中準確率的優化和提升。

    2.本發明包括緩存及標簽模型模塊、緩存標簽及歷史數據維護模塊、緩存標簽預測及是使用統計模塊、緩存優先級計算及使用次數維護模塊、緩存優先級淘汰模塊、緩存使用模塊。

    3.根據權利要求1所述的一種建立緩存優先級預測機制實現lru優化的方法其特征在于,其特征在于:緩存及標簽模型模塊:每個緩存在生成的時候有一個唯一id,同時內置固定的優先級別、最近使用次數(15分鐘)、最近使用時間;另外每個緩存支持動態的業務標簽維護;每個標簽為一個全局的標簽,包含最近使用時間、使用時長、空閑時長、最近使用次數、標簽id;標簽歷史記錄按照時間進行維護(比如間隔5秒),相同時段內的記錄使用次數。

    4.根據權利要求1所述的一種建立緩存優先級預測機制實現lru優化的方法其特征在于,其特征在于:緩存標簽及歷史數據維護模塊:在給一個緩存通過標簽id添加一個業務標簽的時候,如果標簽不存在會生成一個全局的標簽信息,標簽的下次使用時間為當前時段;每次緩存命中的時候,都增加緩存所有標簽最新使用歷史記錄,同時更新相同時段的歷史記錄增加使用次數。

    5.根據權利要求1所述的一種建立緩存優先級預測機制實現lru優化的方法其特征在于,其特征在于:緩存標簽預測及是使用統計模塊:標簽的使用次數為使用次數為計算時間內的所有使用次數;過濾出最近統計時間內時段使用次數大于閥值的歷史記錄,...

    【專利技術屬性】
    技術研發人員:蔣敬洪,陶思翰,朱志強
    申請(專利權)人:翼集分上海數字科技有限公司,
    類型:發明
    國別省市:

    網友詢問留言 已有0條評論
    • 還沒有人留言評論。發表了對其他瀏覽者有用的留言會獲得科技券。

    1
    主站蜘蛛池模板: 日日麻批免费40分钟无码| 成人毛片无码一区二区| 亚洲精品无码专区久久久| 国产精品无码成人午夜电影| 亚洲国产成人精品无码区在线秒播 | 一本久道综合在线无码人妻| 国产成人无码a区在线观看视频免费| 日韩精品无码免费专区网站| 无码射肉在线播放视频| 亚洲av中文无码乱人伦在线r▽| 亚洲一区二区无码偷拍| 午夜福利无码不卡在线观看| 四虎成人精品无码永久在线| 97久久精品无码一区二区| 亚洲精品~无码抽插| 亚洲成?v人片天堂网无码| 亚洲AV无码一区二区三区久久精品 | 精品日韩亚洲AV无码| 中文字幕AV中文字无码亚| 国产成人精品无码专区| 亚洲熟妇无码AV| AV无码久久久久不卡网站下载| 中文字幕无码久久人妻| 永久免费av无码网站大全| 亚洲AV无码成人网站在线观看 | 亚洲av无码专区在线观看亚 | 亚洲AV无码一区二区三区网址| 亚洲AV无码一区二区二三区入口 | 亚洲精品高清无码视频 | 无码午夜成人1000部免费视频| 亚洲精品无码久久不卡| 国产午夜激无码av毛片| 久久人妻无码一区二区| 亚洲av无码一区二区三区天堂| 伊人久久精品无码麻豆一区| 亚洲AV色吊丝无码| 亚洲人成无码网站在线观看| 免费看又黄又无码的网站| 精品亚洲AV无码一区二区三区 | 亚洲AV无码精品色午夜果冻不卡| 国产aⅴ无码专区亚洲av麻豆|