我們在2011年開始研究試驗云計算技術，到2013年形成了長距雙活資源池體系，并引入SDNOverlay技術進行測試和試點，通過SDN實現彈性網絡資源池，強化網絡自動化部署能力，加快資源交付時間。資源池中計算、網絡彈性部署能力相對較強，而原先資源池存儲主要采用的傳統集中FCSan技術，在面對資源池各種各樣存儲需求時逐漸成為瓶頸，存儲技術門檻高、成本高、并發IO受限、線性擴展能力差以及不具備按需分配的能力成為急需要解決的問題。于是萌發了想利用傳統的X86服務器+廉價的SATA盤作為塊存儲的想法。2013年的10月，在杭州西湖邊的青騰茶館第一次遇到了顧炯炯大師，在交流了華為的虛擬化軟件的同時，我也講了基于X86存儲的基本想法，炯炯大師表示華為已經在開發基于X86分布式塊存儲，預計可以在2014年開發完成。現在回想起來，當時炯炯大師的說法給我很大的信心，而我的想法也給炯炯大師很大的信心。后來也和國內外的存儲廠家進行了交流很溝通。2014年通過前期測試和招標(華為、中興、EMC、HP、HDS應標)最終確定采用華為FusionStorage分布式塊存儲。在2014年年底投入正式商用，2015年2月6日聯合華為召開新聞發布會，是業界第一個投入商用的分布式塊存儲。在后來的使用中，和我預想的一樣成功替代傳統FCSAN高端存儲，自從使用FusionStorage后，就沒有新購或擴容FCSAN。

分布式存儲的架構

一般來說，分布式存儲不管是文件存儲、對象存儲還是塊存儲的基本架構都是大同小異的。即客戶端或應用端、元數據(MDS)服務器和數據節點服務器。

客戶端和元數據服務器之間交互是“信令交互”，而客戶端到數據節點是“媒體交互”。元數據服務器或通過數據節點服務器獲取各節點服務器的基本配置情況和狀態信息。

比如，客戶端需要讀取某一個文件的信息，客戶端會將相應的要求發給元數據服務器：“喂!我需要XXX，存在哪里了”，元數據服務器查詢后回答“你到xxx服務器的xxx地址+xxx服務器的xxx地址取”。客戶端拿到這個指示后，向這2臺服務器發出指令，數據節點獲得指令后，將相應的數據返回給客戶端。

大家可能都會奇怪，為什么塊存儲、對象和文件的架構都是一樣的。有什么區別呢?我們在前面基礎知識講述中，塊存儲是一種裸設備，它是將存儲設備以“塊”的方式直接提供給客戶，由客戶自己的操作系統里的文件系統進行管理。即分布式塊存儲里是沒有文件系統的，是通過客戶端直接將最簡單明了的命令傳遞給存儲的“塊”來執行。而對象存儲和文件存儲雖然結構類似，但并不將存儲底層的“塊”直接提供出來，而是通過隱藏著一個文件系統，包裝成為“文件”或“對象”提供出來。這些存儲“不挑”操作系統或終端，最終執行命令的是存儲里面的文件系統操控存儲執行的，所以共享性很好。文件存儲通過“目錄+文件名+偏移量”來檢索，文件間有目錄層次的;而對象存儲采用“唯一對象ID+偏移量”來檢索，對象扁平存儲的，是沒有層次的。而且塊、對象、文件存儲是可以相互轉換的，這個問題以后單獨講。

華為的FusionStorage是一個典型的“塊”存儲，我們來了解一下結構。

FusionStorage也分成了MDC、OSD和Client三部分。和其他分布式存儲重大的差別是，MDC是記錄、更新OSD服務器、磁盤等的狀態，并把這些狀態數據實時同步給Vbs，由Vbs計算出來數據所落的位置。MDC可以單獨部署，也可以集中部署，也可以分布部署。如果MDC全出現故障，并不會影響存儲的正常運行。但是如果在MDC故障期間OSD的狀態發生了改變，比如某塊磁盤故障，就會導致部分IO訪問不正常。所以一般MDC部署在3臺OSD上，確保安全。一般分布式存儲的MDC采用的是數據庫或內存儲數據庫來記錄數據塊和物理位置關系。客戶端向MDC發出詢問位置的請求，MDC查詢數據庫后返回請求數據的存儲位置。這種方法存儲訪問的速度較慢，而且MDC作為交通的“樞紐”，絕對是整個存儲的核心，當MDC發生故障，會導致整個存儲都不能使用。但是采取這個方式，也有好處，比如可以根據不同需求設置不同的副本策略等。