面向編碼MapReduce的通信有效計算負載調度研究
發(fā)布時間:2020-12-09 04:28
近年來,邊緣計算已經(jīng)成為了下一代網(wǎng)絡研究中最為矚目的技術亮點,邊緣計算為許多諸如虛擬現(xiàn)實,自動駕駛,深度學習等新興的計算密集型應用提供了強有力的計算力保證。這些新型的計算應用的發(fā)展也對計算性能提出更高的要求。MapReduce是一種專門為大規(guī)模并行數(shù)據(jù)處理設計的分布式計算框架。在邊緣計算中通常可以采用MapReduce框架在多個邊緣服務器上分布式處理各種類型的計算任務。更進一步,編碼MapReduce框架利用編碼技術與冗余計算資源通過調整計算負載可以對服務器之間的通信負載進行優(yōu)化。隨著近些年計算應用對于低時延的需求日益強烈。邊緣服務器之間的大量通信負載成為提高計算性能的瓶頸,并且邊緣計算資源具有時變特征。如何通過計算負載調度充分利用動態(tài)變化的冗余計算資源來提高計算性能,如何對邊緣服務器之間通信負載進行優(yōu)化。以此為動機,本文開展了對面向編碼MapReduce的通信有效計算負載調度的研究。首先,本文研究了單任務場景下通信有效計算負載調度算法。對于可以預先獲知整個時間范圍內可用計算資源狀態(tài)的離線情況,將通信負載的調度算法轉化為優(yōu)化問題,利用最優(yōu)性條件對計算重復因子和計算任務量進行解耦,將聯(lián)合...
【文章來源】:浙江大學浙江省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:86 頁
【學位級別】:碩士
【部分圖文】:
圖1.1?MapReduce框架基本執(zhí)行流程[s]??
?丨?_ii?wm??圖1.1?MapReduce框架基本執(zhí)行流程[s]??碼MapReduce框架中,將編碼技術的應用擴展到邊緣計算中來,通過編碼減少Shuffle階段??的通信負載,提高邊緣計算的整體性能。??編碼MapReduce通過建立計算負載與通信負載之間的關系,證明可以通過增加計算負??載以減少Shuffle階段的通信負載。編碼MapReduce利用不同計算節(jié)點上相同數(shù)據(jù)塊的重復??計算,以實現(xiàn)編碼。更具體地說,對于具有K個計算節(jié)點的服務器群集,通過多播LAN網(wǎng)??絡互連,計算任務共有<5個輸入文件,B個Reduce函數(shù)。編碼MapReduce提出了一種特定??的策略來分配Map任務,可以對計算節(jié)點上每個數(shù)據(jù)塊進行i?次重復計算,并在Shuffle階??段進行編碼可以大幅減少Shuffle階段的通信負載,具體實例可以參考如圖1.2所示。??在圖1.2中
□??引理2?(定理2注解).我們發(fā)現(xiàn)在定理2中的計算負載調度算法與注水算法有異曲同工之??妙。如圖2J所示,A是與^相交的解平面,是它直接決定了調度方案,因為所有注??入的水S⑷的總量滿足⑴C,+?}?=?M,所以我們可以通過調整A來??調整水平面以滿足最終水量的和為M達到最優(yōu)性。此時與最優(yōu)解平面A*與^相交的結果??便是最優(yōu)調度算法。??2.4在線計算負載調度算法??在本節(jié)中,我們基于上一節(jié)的離線最優(yōu)計算負載調度算法希望可以可在在線場景中得??到相應的解決方案。利用競爭分析方法,我們得到任意在線調度算法的競爭比下界,并且??16??
本文編號:2906271
【文章來源】:浙江大學浙江省 211工程院校 985工程院校 教育部直屬院校
【文章頁數(shù)】:86 頁
【學位級別】:碩士
【部分圖文】:
圖1.1?MapReduce框架基本執(zhí)行流程[s]??
?丨?_ii?wm??圖1.1?MapReduce框架基本執(zhí)行流程[s]??碼MapReduce框架中,將編碼技術的應用擴展到邊緣計算中來,通過編碼減少Shuffle階段??的通信負載,提高邊緣計算的整體性能。??編碼MapReduce通過建立計算負載與通信負載之間的關系,證明可以通過增加計算負??載以減少Shuffle階段的通信負載。編碼MapReduce利用不同計算節(jié)點上相同數(shù)據(jù)塊的重復??計算,以實現(xiàn)編碼。更具體地說,對于具有K個計算節(jié)點的服務器群集,通過多播LAN網(wǎng)??絡互連,計算任務共有<5個輸入文件,B個Reduce函數(shù)。編碼MapReduce提出了一種特定??的策略來分配Map任務,可以對計算節(jié)點上每個數(shù)據(jù)塊進行i?次重復計算,并在Shuffle階??段進行編碼可以大幅減少Shuffle階段的通信負載,具體實例可以參考如圖1.2所示。??在圖1.2中
□??引理2?(定理2注解).我們發(fā)現(xiàn)在定理2中的計算負載調度算法與注水算法有異曲同工之??妙。如圖2J所示,A是與^相交的解平面,是它直接決定了調度方案,因為所有注??入的水S⑷的總量滿足⑴C,+?}?=?M,所以我們可以通過調整A來??調整水平面以滿足最終水量的和為M達到最優(yōu)性。此時與最優(yōu)解平面A*與^相交的結果??便是最優(yōu)調度算法。??2.4在線計算負載調度算法??在本節(jié)中,我們基于上一節(jié)的離線最優(yōu)計算負載調度算法希望可以可在在線場景中得??到相應的解決方案。利用競爭分析方法,我們得到任意在線調度算法的競爭比下界,并且??16??
本文編號:2906271
本文鏈接:http://www.wukwdryxk.cn/guanlilunwen/ydhl/2906271.html
最近更新
教材專著