大數據存儲平臺發展必須具有彈性
大數據推動存儲市場發展
近日,美國市場研究公司IDC發布報告稱,大數據技術和服務的不斷升級,拉動全球存儲市場將在2011至2016年間實現53%的復合年增長率。在可預見的未來,多數組織產生、處理、存儲的數據都將繼續保持快速增長。“在可預見的未來,存儲是大數據和分析領域最大的基礎設施開支之一。”IDC存儲系統研究總監阿西什·納卡尼說,“大數據和分析領域所產生的存儲開支將從2011年的3.799億美元,激增至2016年的60億美元。”
在受訪企業中,有68.6%在選擇存儲架構時主要看重性能,有59.5%更加看重成本。接近31%的受訪企業表示,雖然尚未針對數據分析基礎架構部署企業存儲系統,但準備在今后6個月內部署。
在實際應用方面,63.7%的受訪企業主要借此分析運營數據,還有53.3%主要分析交易數據。IT是數據分析基礎架構的最大影響因素,遠高于排名第二的運營。有超過61%的受訪企業,將提升客戶滿意度作為數據分析方案所應解決的最大商業挑戰。
大數據存儲容易出現問題
在大數據時代來臨之際,我們面臨的挑戰還有存儲問題。大數據中的大容量通常可達到PB級的數據規模,那么對于海量數據存儲系統擴展能力的要求也會很高。以國內某省為例,公共視頻監控已經超過100多萬個攝像頭,總保有量近400萬,以此估計,全國攝像頭數量不少于4000萬,某投行的報告稱行業每年還在以20%加速增長,行業龍頭海康威視12年的年報披露的銷售量就達570萬套(含前后端),增長37%。而另一個數據也很驚人,英國的攝像頭數量與人口數量之比已經達到1:15。
粗略計世界至少有1億個攝像頭在角落靜靜的看著,這樣的視頻監控將是數據的大生成器。從攝像前端的海量數據和到有效數據之間的也存在矛盾,攝像頭不停歇的工作,如實記錄鏡頭覆蓋范圍發生的一切,但對于客戶來講大部分信息是無效,有效信息可能只分布在一個較短的時間段內,大量的數據存儲給數據庫帶來不小的壓力,而無效的數據更是對于資源的浪費。
與此同時,存儲系統的擴展一定要簡便,盡量能通過增加模塊或磁盤柜來增加容量,甚至不需要停機。基于這樣的需求,客戶現在越來越青睞Scale-out架構的存儲。Scale-out集群結構的特點是每個節點除了具有一定的存儲容量之外,內部還具備數據處理能力以及互聯設備,與傳統存儲系統的煙囪式架構完全不同,Scale-out架構可以實現無縫平滑的擴展,避免存儲孤島。
大數據存儲平臺必須具有彈性
● 大數據之“大”
“大”是相對而言的概念。例如,對于像SAPHANA那樣的“內存數據庫”來說,2TB可能就已經是大容量了;而對于像谷歌這樣的搜索引擎,EB的數據量才能稱得上是大數據。
“大”也是一個迅速變化的概念。HDS在2004年發布的USP存儲虛擬化平臺具備管理32PB內外部附加存儲的能力。當時,大多數人認為,USP的存儲容量大得有些離譜。但是現在,大多數企業都已經擁有PB級的數據量,一些搜索引擎公司的數據存儲量甚至達到了EB級。由于許多家庭都保存了TB級的數據量,一些云計算公司正在推廣其文件共享或家庭數據備份服務。
● 有容乃“大”
由此看來,大數據存儲的首要需求存儲容量可擴展。大數據對存儲容量的需求已經超出目前用戶現有的存儲能力。我們現在正處于PB級時代,而EB級時代即將到來。過去,許多企業通常以五年作為IT系統規劃的一個周期。在這五年中,企業的存儲容量可能會增加一倍。現在,企業則需要制定存儲數據量級(比如從PB級到EB級)的增長計劃,只有這樣才能確保業務不受干擾地持續增長。
這就要求實現存儲虛擬化。存儲
責任編輯:廖生玨
-
權威發布 | 新能源汽車產業頂層設計落地:鼓勵“光儲充放”,有序推進氫燃料供給體系建設
2020-11-03新能源,汽車,產業,設計 -
中國自主研制的“人造太陽”重力支撐設備正式啟運
2020-09-14核聚變,ITER,核電 -
探索 | 既耗能又可供能的數據中心 打造融合型綜合能源系統
2020-06-16綜合能源服務,新能源消納,能源互聯網
-
新基建助推 數據中心建設將迎爆發期
2020-06-16數據中心,能源互聯網,電力新基建 -
泛在電力物聯網建設下看電網企業數據變現之路
2019-11-12泛在電力物聯網 -
泛在電力物聯網建設典型實踐案例
2019-10-15泛在電力物聯網案例
-
權威發布 | 新能源汽車產業頂層設計落地:鼓勵“光儲充放”,有序推進氫燃料供給體系建設
2020-11-03新能源,汽車,產業,設計 -
中國自主研制的“人造太陽”重力支撐設備正式啟運
2020-09-14核聚變,ITER,核電 -
能源革命和電改政策紅利將長期助力儲能行業發展
-
探索 | 既耗能又可供能的數據中心 打造融合型綜合能源系統
2020-06-16綜合能源服務,新能源消納,能源互聯網 -
5G新基建助力智能電網發展
2020-06-125G,智能電網,配電網 -
從智能電網到智能城市