本發明涉及一種基于強化學習的異構MapReduce集群推測執行調度方法,屬于大數據處理領域。本發明采用基于Q?learning強化學習的節點權重動態更新方法,基于歷史信息實現節點權重的自適應調整,有效提升了task剩余運行時間的估算準確性;對straggler進行是否遷移的判別,需同時滿足備份task比例約束,以及遷移后的運行時間約束兩項條件,straggler才能啟動備份任務;同時結合map task快節點和reduce task快節點,這種方式提升了異構MapReduce集群的資源利用率?;诘湫蛿祿姆抡嬖囼灲Y果表明,相比于現有算法,本文提出的算法對于大規模數據的處理效率明顯提升。
聲明:
“基于強化學習的異構MapReduce集群推測執行調度方法” 該技術專利(論文)所有權利歸屬于技術(論文)所有人。僅供學習研究,如用于商業用途,請聯系該技術所有人。
我是此專利(論文)的發明人(作者)