光存儲應對冷數據存儲挑戰
安防網訊 近年來網絡數據量呈爆炸式增長然而這些數據很快就會由熱變冷以Facebook為例經測試分析其數據產生24小時內訪問的頻率非常高而此后訪問頻率就越來越低逐漸變為冷數據Facebook自身的數據中心有89%的數據都是冷數據華中科技大學信息存儲系統教育部重點實驗室主任謝長生表示這些冷數據同樣重要許多大數據分析都要基于冷數據來進行而且許多數據要求保存的時間非常長例如銀行社保等數據一般都要保存70~100年的時間現在我們對這些數據重視不夠往往用很貴的系統來存放這些冷數據這一局面應該得到改變
一般而言數據中心80%以上的數據都是冷數據現在人們一般將熱數據存在SSD固態硬盤中將溫數據存在7200轉的硬盤中而將冷數據存放在低速硬盤上浪費了大量的能源成本非常高那么什么介質才是存儲冷數據的最佳選擇呢?謝長生對比了幾種常見的存儲介質
硬盤的平均壽命為5年5年后其損壞率就會急速提升在磁盤陣列中硬盤損壞的概率很高硬盤5年要轉移一次數據對那些需要存放數十年的數據而言不僅操作繁瑣而且數據也容易丟失
閃存作為長期保存介質也不是很好的方案第一其成本高用于存放海量的冷數據太浪費;第二閃存是基于電荷來存儲數據的壽命較短
磁帶具有容量大成本低能耗低等特點適合用來存儲冷數據然而磁帶的壽命不長平均壽命僅為10年而且放置在潮濕的地方容易發霉損壞
光盤用于存儲冷數據具有很多優勢它是非接觸的很可靠能耗低成本低壽命長其唯一的缺點就是容量較小 |
謝長生指出光盤在容量方面最近取得了重大突破200G容量的藍光光盤已經實現了商用光盤的成本非常低在塑料上鍍一層膜即可存儲數據而且能夠很好地防水平均壽命超過50年日本科學家曾經做過一次實驗將光盤在海水中浸泡后仍然能夠正常讀取數據綜合而言光存儲是目前最適合存儲冷數據的介質
當然容量小仍是光存儲的一大短板為了破解這個難題一些重量級的公司開發了大容量的光盤庫用于代替磁帶庫和硬盤來存儲冷數據Facebook通過這種方式比用硬盤存儲冷數據能耗和成本降低了一半
我國業界在5年前就已看到了這一趨勢開展了大量的自主研發工作華中科技大學信息存儲系統教育部重點實驗室就與國內廠商積極合作進行了相關開發將大量的光盤虛擬化成一個大的文件卷吞吐率通過24個光驅并行讀寫相關技術在日內瓦發明博覽會上得到金獎
謝長生介紹說在理論和功能上他們推出了一種磁光電融合的技術大部分由光盤組成也存在著少量的固態盤和普通硬盤將它們異構融合后虛擬化成一個大容量盤;熱溫冷數據是自動分級的熱數據存放在固態盤里溫數據放在普通硬盤里冷數據放在光盤里該技術最重要的應用場景就是數據中心
目前我國在該領域的研究處于世界領先水平謝長生指出數據中心的冷存儲是一個日益重要的問題數據中心中80%都是冷數據光存儲是冷數據存儲未來的方向近年來光存儲取得了重大突破光存儲將在數據中心廣泛替代磁帶庫超大容量光盤庫也已經成熟將進入規模部署階段