隨著互聯(lián)網(wǎng)的不斷擴(kuò)張和云計(jì)算技術(shù)的進(jìn)一步推廣,海量的數(shù)據(jù)在個(gè)人、企業(yè)、研究機(jī)構(gòu)等源源不斷地產(chǎn)生。這些數(shù)據(jù)為日常生活提供了便利,信息網(wǎng)站可以推送用戶定制的新聞,購(gòu)物網(wǎng)站可以預(yù)先提供用戶想買(mǎi)的物品,人們可以隨時(shí)隨地分享。但是如何有效、快速、可靠地存取這些日益增長(zhǎng)的海量數(shù)據(jù)成了關(guān)鍵的問(wèn)題。傳統(tǒng)的存儲(chǔ)解決方案能提供數(shù)據(jù)的可靠性和絕對(duì)的安全性,但是面對(duì)海量的數(shù)據(jù)及其各種不同的需求,傳統(tǒng)的解決方案日益面臨越來(lái)越多的問(wèn)難,比如數(shù)據(jù)量的指數(shù)級(jí)增長(zhǎng)對(duì)不斷擴(kuò)容的存儲(chǔ)空間提出要求,實(shí)時(shí)分析海量的數(shù)據(jù)對(duì)存儲(chǔ)計(jì)算能力提出要求。一方面?zhèn)鹘y(tǒng)的存儲(chǔ)解決方案正在改變,比如多級(jí)存儲(chǔ)來(lái)不斷適應(yīng)大數(shù)據(jù)存儲(chǔ)管理系統(tǒng)的特點(diǎn)和要求,另一方面全新的存儲(chǔ)解決方案正日漸成熟,來(lái)有效滿足大數(shù)據(jù)的發(fā)展需求。
· 什么是大數(shù)據(jù)?為什么要大數(shù)據(jù)?
“大數(shù)據(jù)”通常指的是那些數(shù)量巨大、難于收集、處理、分析的數(shù)據(jù)集,亦指那些在傳統(tǒng)基礎(chǔ)設(shè)施中長(zhǎng)期保存的數(shù)據(jù)。這里的“大”有幾層含義,它可以形容組織的大小,而更重要的是,它界定了企業(yè)中IT基礎(chǔ)設(shè)施的規(guī)模。業(yè)內(nèi)對(duì)大數(shù)據(jù)應(yīng)用寄予了無(wú)限的期望商業(yè)信息積累的越多價(jià)值也越大只不過(guò)我們需要一個(gè)方法把這些價(jià)值挖掘出來(lái)。
與以往相比,我們除了有能力存儲(chǔ)更多的數(shù)據(jù)量之外,還要面對(duì)更多的數(shù)據(jù)類(lèi)型。這些數(shù)據(jù)的來(lái)源包括網(wǎng)上交易、網(wǎng)絡(luò)社交活動(dòng)、自動(dòng)傳感器、移動(dòng)設(shè)備以及科學(xué)儀器等等。除了那些固定的數(shù)據(jù)生產(chǎn)源,各種交易行為還可能加快數(shù)據(jù)的積累速度。比如說(shuō),社交類(lèi)多媒體數(shù)據(jù)的爆炸性增長(zhǎng)就源于新的網(wǎng)上交易和記錄行為。數(shù)據(jù)永遠(yuǎn)都在增長(zhǎng)之中,但是,只有存儲(chǔ)海量數(shù)據(jù)的能力是不夠的,因?yàn)檫@并不能保證我們能夠成功地從中搜尋出商業(yè)價(jià)值。
· 大數(shù)據(jù)的存儲(chǔ)及處理能力挑戰(zhàn)
當(dāng)前,我國(guó)大數(shù)據(jù)存儲(chǔ)、分析和處理的能力還很薄弱,與大數(shù)據(jù)相關(guān)的技術(shù)和工具的運(yùn)用也相當(dāng)不成熟,大部分企業(yè)仍處于IT產(chǎn)業(yè)鏈的低端。我國(guó)在數(shù)據(jù)庫(kù)、數(shù)據(jù)倉(cāng)庫(kù)、數(shù)據(jù)挖掘以及云計(jì)算等領(lǐng)域的技術(shù),普遍落后于國(guó)外先進(jìn)水平。
在大數(shù)據(jù)存儲(chǔ)方面,數(shù)據(jù)的爆炸式增長(zhǎng),數(shù)據(jù)來(lái)源的極其豐富和數(shù)據(jù)類(lèi)型的多種多樣,使數(shù)據(jù)存儲(chǔ)量更龐大,對(duì)數(shù)據(jù)展現(xiàn)的要求更高。而目前我國(guó)傳統(tǒng)的數(shù)據(jù)庫(kù),還難以存儲(chǔ)如此巨大的數(shù)據(jù)量。在大數(shù)據(jù)的分析處理方面,由于針對(duì)具體的應(yīng)用類(lèi)型,需要采用不同的處理方式,因此必須通過(guò)建立高級(jí)大數(shù)據(jù)的分析模型,來(lái)實(shí)現(xiàn)快速抽取大數(shù)據(jù)的核心數(shù)據(jù)、高效分析這些核心數(shù)據(jù)并從中發(fā)現(xiàn)價(jià)值,而這些數(shù)據(jù)分析能力我國(guó)還很欠缺。
因此,如何提高我國(guó)對(duì)大數(shù)據(jù)資源的存儲(chǔ)和整合能力,實(shí)現(xiàn)從大數(shù)據(jù)中發(fā)現(xiàn)、挖掘出有價(jià)值的信息和知識(shí),是當(dāng)前我國(guó)大數(shù)據(jù)存儲(chǔ)和處理所面臨的挑戰(zhàn)。
· 處理大數(shù)據(jù)存儲(chǔ)挑戰(zhàn)的建議
通過(guò)隔離管理大數(shù)據(jù)存儲(chǔ)
如果您在您的企業(yè)中有多個(gè)存儲(chǔ)箱,那么將數(shù)據(jù)庫(kù)、線交易處理(OLTP)和微軟Exchange應(yīng)用到特定的存儲(chǔ)系統(tǒng)絕對(duì)是一個(gè)好主意。而專(zhuān)其它存儲(chǔ)系統(tǒng)則用于大數(shù)據(jù)應(yīng)用,如門(mén)戶網(wǎng)站,在線流媒體應(yīng)用,等等。
如果您的企業(yè)負(fù)擔(dān)不起分隔的存儲(chǔ)系統(tǒng),將特定的前端存儲(chǔ)端口到數(shù)據(jù)庫(kù),OLTP,等等;致力于大數(shù)據(jù)應(yīng)用到其他端口。背后的基本原理是使用專(zhuān)用端口,而大數(shù)據(jù)流量是以千字節(jié)或兆字節(jié)衡量,OLTP應(yīng)用流量是以每秒的輸入/輸出操作(IOPS)衡量,因?yàn)閿?shù)據(jù)塊的大小是比大數(shù)據(jù)更大而比OLTP應(yīng)用程序更小。OLTP應(yīng)用程序是CPU密集型的,而大數(shù)據(jù)應(yīng)用程序更多的使用前端端口。因此,更多的端口可以專(zhuān)注于大數(shù)據(jù)應(yīng)用。
專(zhuān)業(yè)的大數(shù)據(jù)存儲(chǔ)管理
如今,很多公司提供兼容數(shù)據(jù)管理的存儲(chǔ)系統(tǒng)。你應(yīng)該在尋找你的大數(shù)據(jù)存儲(chǔ)管理解決方案時(shí)評(píng)估這些公司。如EMCIsilon的集群存儲(chǔ)系統(tǒng)對(duì)于大數(shù)據(jù)存儲(chǔ)管理是一個(gè)更好的選擇,因?yàn)樵谝粋(gè)單一的文件系統(tǒng)中大數(shù)據(jù)能增長(zhǎng)到多字節(jié)的數(shù)據(jù)。
大數(shù)據(jù)分析
除了存儲(chǔ),大數(shù)據(jù)管理的另一項(xiàng)大的挑戰(zhàn)是數(shù)據(jù)分析。一般的數(shù)據(jù)分析應(yīng)用程序無(wú)法很好的處理大數(shù)據(jù),畢竟涉及到大量的數(shù)據(jù)。
目前,諸如EMCGreenplum這樣的公司就在采用專(zhuān)門(mén)針對(duì)大數(shù)據(jù)的管理和分析的工具。這些應(yīng)用程序運(yùn)行在集群存儲(chǔ)系統(tǒng)上,緩解大數(shù)據(jù)的管理。建議選擇應(yīng)用程序可同時(shí)工作在群集存儲(chǔ)系統(tǒng),并迅速有效地分析數(shù)據(jù)。快速索引,確保元數(shù)據(jù)始終駐留在固態(tài)硬盤(pán)(SSD),如果存儲(chǔ)箱為您提供了這樣的選擇的話。
管理大數(shù)據(jù)的另一個(gè)需要重點(diǎn)考慮的是未來(lái)的數(shù)據(jù)增長(zhǎng)。你的大數(shù)據(jù)存儲(chǔ)管理系統(tǒng)應(yīng)該是可擴(kuò)展的,足以滿足未來(lái)的存儲(chǔ)需求。
大數(shù)據(jù)的存儲(chǔ)管理和云計(jì)算
許多公司正在尋找云計(jì)算服務(wù)來(lái)進(jìn)行存儲(chǔ)和管理海量數(shù)據(jù)。而選擇云服務(wù)來(lái)大型數(shù)據(jù)存儲(chǔ)管理,可以確保數(shù)據(jù)的所有權(quán)仍然是你的。
你應(yīng)該有權(quán)選擇將您的數(shù)據(jù)移入或移出云服務(wù),而不被供應(yīng)商鎖定。其他重要的考慮因素是供應(yīng)商的數(shù)據(jù)安全指南。