www.久久久久|狼友网站av天堂|精品国产无码a片|一级av色欲av|91在线播放视频|亚洲无码主播在线|国产精品草久在线|明星AV网站在线|污污内射久久一区|婷婷综合视频网站

當前位置:首頁 > 芯聞號 > 充電吧
[導讀]???? 對于普通的hash算法,計算增加一個節(jié)點對于數據遷移的比率以及計算時間from?hashlib?import?md5 from?struct?import?unpack_from from?

???? 對于普通的hash算法,計算增加一個節(jié)點對于數據遷移的比率以及計算時間


from?hashlib?import?md5
from?struct?import?unpack_from
from?time?import?time

begin=time()#記錄下當前時間,方便計算計算消耗的時間
NODE_COUNT=100?#原有節(jié)點數目
NEW_NODE_COUNT=101#新的節(jié)點數目
DATA_ID_COUNT=10000000#數據量

move_ids=0#統計可能移動的數據的個數
for?data_id?in?xrange(DATA_ID_COUNT):
????index=data_id
????data_id=str(data_id)
????hsh=unpack_from('>I',md5(str(data_id)).digest())[0]#根據數據節(jié)點計算MD5值,將二進制轉換成我們理解的無符號型整數,因為unpack_from返回的是數組,也即取[0]
????node_id=hsh%NODE_COUNT
????new_node_id=hsh%NEW_NODE_COUNT
????if?node_id!=new_node_id:
????????move_ids+=1
percent_moved=100.0*move_ids/DATA_ID_COUNT
print?'%d?ids?moved,?%0.2f%%'?%?(move_ids,percent_moved)
duration=time()-begin
print?'Total?time?%d?seconds'?%?duration

實驗輸出

9900989?ids?moved,?99.01%
Total?time?46?second


這樣的輸出結果顯然不能是的我們滿意,現在嘗試做一個ring來進行存儲


實驗原理:

????? 仍然有數據10000000,原有節(jié)點數目是100,增加了一個節(jié)點變成了101,

???? 我們將數據分成100分,

??? 第0個節(jié)點存放數據 10000000/100*0

??? 第1個節(jié)點存放數據 10000000/100*1

?? ...

??? 第99個節(jié)點存放數據 10000000/100*99

??? 那么改變節(jié)點數目之后就變成了101

??? 第0個節(jié)點存放數據 10000000/101*0

??? 第1個節(jié)點存放數據 10000000/101*1

?? ...

??? 第100個節(jié)點存放數據 10000000/101*100

?? 其數據遷移量是:


?from?bisect?import?bisect_left??
from?hashlib?import?md5??
from?struct?import?unpack_from??
from?time?import?time??
??
??
begin?=?time()??
NODE_COUNT?=?100??
NEW_NODE_COUNT?=?101??
DATA_ID_COUNT?=?10000000??
??
??
node_range_starts?=?[]??
for?node_id?in?xrange(NODE_COUNT):??
????node_range_starts.append(DATA_ID_COUNT?/?NODE_COUNT?*?node_id)??
new_node_range_starts?=?[]??
for?new_node_id?in?xrange(NEW_NODE_COUNT):??
????new_node_range_starts.append(DATA_ID_COUNT?/?NEW_NODE_COUNT?*?new_node_id)??
moved_ids?=?0??
for?data_id?in?xrange(DATA_ID_COUNT):??
????data_id?=?str(data_id)??
????hsh?=?unpack_from('>I',?md5(str(data_id)).digest())[0]??
????node_id?=?bisect_left(node_range_starts,?hsh?%?DATA_ID_COUNT)?%?NODE_COUNT??
????#node_id是原來的數據進行映射的點,new_node_id則是根據新的節(jié)點數目進行映射,如果不一致,則進行數據遷移
????new_node_id?=?bisect_left(new_node_range_starts,??
??????????????????????????????hsh?%?DATA_ID_COUNT)?%?NEW_NODE_COUNT??
????if?node_id?!=?new_node_id:??
????????moved_ids?+=?1??
percent_moved?=?100.0?*?moved_ids?/?DATA_ID_COUNT??
print?'%d?ids?moved,?%.02f%%'?%?(moved_ids,?percent_moved)??
duration?=?time()?-?begin??
print?'Total?time?%d?second'?%?duration

實驗結果

4901707?ids?moved,?49.02%
Total?time?69?second


現在加入虛節(jié)點之后進行hash的一致性討論


from?bisect?import?bisect_left??
from?hashlib?import?md5??
from?struct?import?unpack_from??
from?time?import?time??
??
begin?=?time()??
NODE_COUNT?=?100??
DATA_ID_COUNT?=?10000000??
VNODE_COUNT?=?1000??
??
vnode_range_starts?=?[]??
vnode2node?=?[]??
for?vnode_id?in?xrange(VNODE_COUNT):??
????vnode_range_starts.append(DATA_ID_COUNT?/?VNODE_COUNT?*?vnode_id)??
????vnode2node.append(vnode_id?%?NODE_COUNT)??
new_vnode2node?=?list(vnode2node)??
new_node_id?=?NODE_COUNT??#new_node_id就是新添加節(jié)點的索引值
NEW_NODE_COUNT?=?NODE_COUNT?+?1??
vnodes_to_reassign?=?VNODE_COUNT?/?NEW_NODE_COUNT??#要進行重新分配的虛節(jié)點的數目,一下是只需確定,移動節(jié)點的數目,先遍歷節(jié)點,確定節(jié)點索引值,
#然后遍歷虛節(jié)點,如果虛節(jié)點指向的實節(jié)點索引值與之前一致,那么該虛節(jié)點的數據,則應該遷移到new_node_id節(jié)點上去,這里只改變虛節(jié)點和實節(jié)點的對應關系
while?vnodes_to_reassign?>?0:??
????for?node_to_take_from?in?xrange(NODE_COUNT):??
????????for?vnode_id,?node_id?in?enumerate(new_vnode2node):??
????????????if?node_id?==?node_to_take_from:??
????????????????new_vnode2node[vnode_id]?=?new_node_id??
????????????????vnodes_to_reassign?-=?1??
????????????????break??
????????if?vnodes_to_reassign?<=?0:??
????????????break??
moved_ids?=?0??
for?data_id?in?xrange(DATA_ID_COUNT):??
????data_id?=?str(data_id)??
????hsh?=?unpack_from('>I',?md5(str(data_id)).digest())[0]??
????vnode_id?=?bisect_left(vnode_range_starts,??
???????????????????????????hsh?%?DATA_ID_COUNT)?%?VNODE_COUNT??
????node_id?=?vnode2node[vnode_id]??
????new_node_id?=?new_vnode2node[vnode_id]??
????if?node_id?!=?new_node_id:??
????????moved_ids?+=?1??
percent_moved?=?100.0?*?moved_ids?/?DATA_ID_COUNT??
print?'%d?ids?moved,?%.02f%%'?%?(moved_ids,?percent_moved)??
duration?=?time()?-?begin??
print?'Total?time?%d?second'?%?duration

實驗結果:


90423?ids?moved,?0.90%
Total?time?34?second




本站聲明: 本文章由作者或相關機構授權發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點,本站亦不保證或承諾內容真實性等。需要轉載請聯系該專欄作者,如若文章內容侵犯您的權益,請及時聯系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或將催生出更大的獨角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關鍵字: 阿維塔 塞力斯 華為

加利福尼亞州圣克拉拉縣2024年8月30日 /美通社/ -- 數字化轉型技術解決方案公司Trianz今天宣布,該公司與Amazon Web Services (AWS)簽訂了...

關鍵字: AWS AN BSP 數字化

倫敦2024年8月29日 /美通社/ -- 英國汽車技術公司SODA.Auto推出其旗艦產品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時1.5...

關鍵字: 汽車 人工智能 智能驅動 BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務能7×24不間斷運行,同時企業(yè)卻面臨越來越多業(yè)務中斷的風險,如企業(yè)系統復雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務連續(xù)性,提升韌性,成...

關鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據媒體報道,騰訊和網易近期正在縮減他們對日本游戲市場的投資。

關鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國國際大數據產業(yè)博覽會開幕式在貴陽舉行,華為董事、質量流程IT總裁陶景文發(fā)表了演講。

關鍵字: 華為 12nm EDA 半導體

8月28日消息,在2024中國國際大數據產業(yè)博覽會上,華為常務董事、華為云CEO張平安發(fā)表演講稱,數字世界的話語權最終是由生態(tài)的繁榮決定的。

關鍵字: 華為 12nm 手機 衛(wèi)星通信

要點: 有效應對環(huán)境變化,經營業(yè)績穩(wěn)中有升 落實提質增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務引領增長 以科技創(chuàng)新為引領,提升企業(yè)核心競爭力 堅持高質量發(fā)展策略,塑強核心競爭優(yōu)勢...

關鍵字: 通信 BSP 電信運營商 數字經濟

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺與中國電影電視技術學會聯合牽頭組建的NVI技術創(chuàng)新聯盟在BIRTV2024超高清全產業(yè)鏈發(fā)展研討會上宣布正式成立。 活動現場 NVI技術創(chuàng)新聯...

關鍵字: VI 傳輸協議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長三角生態(tài)綠色一體化發(fā)展示范區(qū)聯合招商會上,軟通動力信息技術(集團)股份有限公司(以下簡稱"軟通動力")與長三角投資(上海)有限...

關鍵字: BSP 信息技術
關閉
關閉