『壹』 《大規模分布式存儲系統原理解析與架構實戰》epub下載在線閱讀，求百度網盤雲資源
《大規模分布式存儲系統》（楊傳輝）電子書網盤下載免費在線閱讀
鏈接：https://pan..com/s/1CG8nBAVixYg53OHREZc_3g
書名：大規模分布式存儲系統
作者：楊傳輝
豆瓣評分：7.8
出版社：機械工業出版社
出版年份：2013-9-1
頁數：293
內容簡介：
《大規模分布式存儲系統：原理解析與架構實戰》是分布式系統領域的經典著作，由阿里巴巴高級技術專家「阿里日照」（OceanBase核心開發人員）撰寫，陽振坤、章文嵩、楊衛華、汪源、余鋒（褚霸）、賴春波等來自阿里、新浪、網易和網路的資深技術專家聯袂推薦。理論方面，不僅講解了大規模分布式存儲系統的核心技術和基本原理，而且對谷歌、亞馬遜、微軟和阿里巴巴等國際型大互聯網公司的大規模分布式存儲系統進行了分析；實戰方面，首先通過對阿里巴巴的分布式資料庫OceanBase的實現細節的深入剖析完整地展示了大規模分布式存儲系統的架構與設計過程，然後講解了大規模分布式存儲技術在雲計算和大數據領域的實踐與應用。
《大規模分布式存儲系統：原理解析與架構實戰》內容分為四個部分：基礎篇——分布式存儲系統的基礎知識，包含單機存儲系統的知識，如數據模型、事務與並發控制、故障恢復、存儲引擎、壓縮/解壓縮等；分布式系統的數據分布、復制、一致性、容錯、可擴展性等。范型篇——介紹谷歌、亞馬遜、微軟、阿里巴巴等著名互聯網公司的大規模分布式存儲系統架構，涉及分布式文件系統、分布式鍵值系統、分布式表格系統以及分布式資料庫技術等。實踐篇——以阿里巴巴的分布式資料庫OceanBase為例，詳細介紹分布式資料庫內部實現，以及實踐過程中的經驗。專題篇——介紹分布式系統的主要應用：雲存儲和大數據，這些是近年來的熱門領域，本書介紹了雲存儲平台、技術與安全，以及大數據的概念、流式計算、實時分析等。
作者簡介：
楊傳輝，阿里巴巴高級技術專家，花名日照，OceanBase核心開發人員，對分布式系統的理論和工程實踐有深刻理解。曾在網路作為核心成員參與類MapRece系統、類Bigtable系統和網路分布式消息隊列等底層基礎設施架構工作。熱衷於分布式存儲和計算系統設計，樂於分享，有技術博客NosqlNotes。
『貳』 《大規模分布式系統架構與設計實戰（含光碟）》epub下載在線閱讀，求百度網盤雲資源
《大規模分布式系統架構與設計實戰（含光碟）》（彭淵）電子書網盤下載免費在線閱讀
資源鏈接：
鏈接：https://pan..com/s/1XoxJB0i2HGGsmPJtONFSUA
書名：大規模分布式系統架構與設計實戰（含光碟）
作者：彭淵
豆瓣評分：4.8
出版社：機械工業出版社
出版年份：2014-3
頁數：231
內容簡介：
【編輯推薦】
絕技源於江湖、將軍發於卒伍，本書包含作者從程序員到首席架構師十多年職業生涯所積累的實戰經驗。
這不是一本講怎麼使用Hadoop的書，而是一本講實現Hadoop功能的書，本書系統講解構建大規模分布式系統的核心技術和實現方法，包含開源的代碼，手把手教你掌握分布式技術
【內容簡介】
本書從作者的實戰經驗出發，深入淺出地講解了如何建立一個Hadoop那樣的分布式系統，實現對多台計算機CPU、內存、硬碟的統一利用，從而獲取強大計算能力去解決復雜問題。一般互聯網企業的分布式存儲計算系統都是個大平台，系統復雜、代碼龐大，而且只適合公司的業務，工程師很難下載安裝到自己的電腦里學習和吃透。本書對分布式核心技術進行了大量歸納和總結，並從中抽取出一套簡化的框架和編程API進行講解，方便工程師了解分布式系統的主要技術實現。這不是一本空談概念、四處摘抄的書，這本書包含了大量精煉示例，手把手教你掌握分布式核心技術。
本書主要內容
分布式並行計算的基本原理解剖；
分布式協調的實現，包括如何實現公共配置管理，如何實現分布式鎖，如何實現集群管理等；
分布式緩存的實現，包括如何提供完整的分布式緩存來利用多機內存能力；
消息隊列的實現，包括如何實現發送和接收模式；
分布式文件系統的實現，包括如何像操作本地文件一樣操作遠程文件，並利用多機硬碟存儲能力；
分布式作業調度平台的實現，包括資源隔離、資源調度等。
【參考閱讀】
978-7-111-43052-0 大規模分布式存儲系統:原理解析與架構實戰
978-7-111-40392-0 分布式系統：概念與設計（原書第5版）
978-7-111-45244-7 Hadoop應用開發技術詳解
978-7-111-41766-8 Hadoop技術內幕：深入解析Hadoop Common和HDFS架構設計與實現原理
978-7-111-42226-6 Hadoop技術內幕：深入解析MapRece架構設計與實現原理
978-7-111-44534-0 Hadoop技術內幕：深入解析YARN架構設計與實現原理
978-7-111-43514-3 網站數據分析：數據驅動的網站管理、優化和運營
978-7-111-42591-5 數據挖掘：實用案例分析
作者簡介：
彭淵資深架構師，現任華為企業中間件首席架構師，主要負責中間件和大數據。前淘寶高級專家（花名：千峰），先後在淘寶交易、淘寶中間件、集團核心系統、阿里金融等部門工作。曾任金蝶總體架構部SOA架構師，負責設計ESB。曾艱苦創業，編寫和銷售財務軟體。在Java技術領域從業十多年，撰寫過多款開源軟體，其中，淘寶分布式技術框架Fourinone為其代表作。他擁有軟體著作權的代表作有：BS系列軟體（包括財務進銷存、OA產品、CRM等）、FMS視頻會議、Flash網站生成軟體（華軍可下載），所有軟體作品均貢獻99%代碼。
『叄』 如何快速的學會大數據分析實戰案例深入解析
1、大數據前沿知識及hadoop入門
2、hadoop部署進階
3、大數據導入與存儲
4、Hbase理論與實戰
5、Spaer配置及使用場景
6、spark大數據分析原理
7、hadoop+spark大數據分析
1.第一階段：大數據前沿知識及hadoop入門，大數據前言知識的介紹，課程的介紹，Linux和unbuntu系統基礎，hadoop的單機和偽分布模式的安裝配置。
2.第二階段：hadoop部署進階。Hadoop集群模式搭建，hadoop分布式文件系統HDFS深入剖析。使用HDFS提供的api進行HDFS文件操作。Maprece概念及思想。
3.第三階段：大數據導入與存儲。mysql資料庫基礎知識，hive的基本語法。hive的架構及設計原理。hive部署安裝與案例。sqoop安裝及使用。sqoop組件導入到hive。
4.第四階段：Hbase理論與實戰。Hbase簡介。安裝與配置。hbase的數據存儲。項目實戰。
5.第五階段：Spaer配置及使用場景。scala基本語法。spark介紹及發展歷史，sparkstantalone模式部署。sparkRDD詳解。
6.第六階段：spark大數據分析原理。spark內核，基本定義，spark任務調度。sparkstreaming實時流計算。sparkmllib機器學習。sparksql查詢。
7.第七階段：hadoop+spark大數據分析。實戰案例深入解析。hadoop+spark的大數據分析之分類。logistic回歸與主題推薦。
『肆』 大數據的分布式資料庫技術的對比
大數據技術的實現離不開很多其他的技術，我們提到最多的就是Hadoop技術，其實就目前而言，Hadoop技術看似是自成一套體系，其實並不是這樣的，Hadoop和Spark以及分布式資料庫其實也是存在差異的，我們就在這篇文章中給大家介紹一下這些內容。
首先我們說一說大數據分析，現在的大數據分析體系以Hadoop生態為主，而近年來逐漸火熱的Spark技術也是主要的生態之一。可以這么說，Hadoop技術只能算是以HDFS+YARN作為基礎的分布式文件系統，而不是資料庫。我們提到的Hadoop的歷史可以向前追溯10年，當年穀歌為了在幾萬台PC伺服器上構建超大數據集合並提供極高性能的並發訪問能力，從而發明了一種新的技術，而這個技術，也是Hadoop誕生的理論基礎。如果我們從Hadoop的誕生背景可以看出，其主要解決的問題是超大規模集群下如何對非結構化數據進行批處理計算。實際上，在Hadoop架構中，一個分布式任務可以是類似傳統結構化數據的關聯、排序、聚集操作，也可以是針對非結構化數據的用戶自定義程序邏輯。
那麼Hadoop的發展道路是什麼樣的呢。最開始的Hadoop以Big、Hive和MapRece三種開發介面為代表，分別適用於腳本批處理、SQL批處理以及用戶自定義邏輯類型的應用。而Spark的發展更是如此，最開始的SparkRDD幾乎完全沒有SQL能力，還是套用了Hive發展出的Shark才能對SQL有了一部分的支持。但是，隨著企業用戶對Hadoop的使用越發廣泛，SQL已經漸漸成為大數據平台在傳統行業的主要訪問方式之一。
下面我們就說一說分布式資料庫，分布式資料庫有著悠久的歷史，從以Oracle RAC為代表的聯機交易型分布式資料庫，到IBM DB2 DPF統計分析性分布式資料庫，分布式資料庫覆蓋了OLTP與OLAP幾乎全部的數據應用場景。而大部分分布式資料庫功能集中在結構化計算與在線增刪改查上。但是，這些傳統的分布式資料庫以數倉及分析類OLAP系統為主，其局限性在於，其底層的關系型資料庫存儲結構在效率上並不能滿足大量高並發的數據查詢以及大數據數據加工和分析的效率要求。因此，分布式資料庫在近幾年也有著極大的轉型，從單一的數據模型向多模的數據模型轉移，將OLTP、聯機高並發查詢以及支持大數據加工和分析結合起來，不再單獨以OLAP作為設計目標。同時，分布式資料庫在訪問模式上也出現了K/V、文檔、寬表、圖等分支，支持除了SQL查詢語言之外的其他訪問模式，大大豐富了傳統分布式資料庫單一的用途。一般來說，多模資料庫的主要目的是為了滿足具有高性能要求的操作型需求以及目標明確的數據倉庫功能，而不是類似大數據深度學習等數據挖掘場景。這就是分布式資料庫的實際情況。
我們在這篇文章中給大家介紹了大數據分析以及分布式資料庫的相關知識，通過這些內容相信大家已經理解了其中的具體區別了吧，如果這篇文章能夠幫助到大家這就是我們最大的心願。
『伍』 大數據下的地質資料信息存儲架構設計
頡貴琴 胡曉琴
(甘肅省國土資源信息中心)
摘要 為推進我國地質資料信息服務集群化產業化工作，更大更好地發揮地質資料信息的價值，本文針對我國現有的地質資料信息集群化共享服務平台存在的缺陷和問題，基於現有系統的存儲架構，設計了一種大數據下的地質資料信息存儲架構，以便於我國地質資料信息服務集群化產業化工作能夠適應大數據時代的數據存儲。
關鍵詞 大數據 地質資料 存儲 NoSQL 雙資料庫
0 引言
新中國成立60多年來，我國形成了海量的地質資料信息，為國民經濟和社會發展提供了重要支撐。但在地質資料管理方面長期存在資料信息分散、綜合研究不夠、數字化信息化程度不高、服務渠道不暢、服務能力不強等問題，使地質資料信息的巨大潛在價值未能得到充分發揮。為進一步提高地質工作服務國民經濟和社會發展的能力，充分發揮地質資料信息的服務功能，擴大服務領域，國土資源部根據國內外地質工作的先進經驗，做出了全面推進地質資料信息服務集群化產業化工作的部署。
目前，全國各省地質資料館都在有條不紊地對本省成果、原始和實物地質資料進行清理，並對其中重要地質資料進行數字化和存儲工作。然而，由於我國地質資源豐富，經過幾十年的積累，已經形成了海量的地質資料，數據量早已經超過了幾百太位元組(TB)。在進行地質資料信息服務集群化工作中，隨著共享數據量的不斷增大，傳統的數據存儲方式和管理系統必然會展現出存儲和檢索方面的不足以及系統管理方面的缺陷。為了解決該問題，需要設計更加先進的數據存儲架構來實現海量地質資料的存儲。
而大數據(Big Data)作為近年來在雲計算領域中出現的一種新型數據，科技工作者在不斷的研究中，設計了適合大數據存儲管理的非關系型資料庫NoSQL進行大數據的存儲和管理。本文將針對我國現有的地質資料信息集群化共享服務平台存在的缺陷和問題，利用大數據存儲管理模式的思想，提出一種海量地質資料存儲架構，改進現有系統存儲架構，以便於我國全面推進地質資料信息服務集群化產業化工作。
1 工作現狀
1.1 國內外地質資料信息的存儲現狀
在美國，主要有兩大地質資料公共服務平台，分別是地球科學信息中心(ESIC)、地球資源觀測和科學中心(EROS)，其目的是通過為社會和政府提供更加便利、快速的地質信息服務。20世紀90年代初，澳大利亞出台了國家地球科學填圖協議，採用先進的科學方法和技術進行數據存儲，從而形成了第二代澳大利亞陸地地質圖。
目前，我國地質資料信息服務集群化產業化工作剛剛起步，雖然國土資源部信息中心已經開發了地質資料信息集群化共享服務平台，並倡導各地方用戶使用該系統。但由於各個地方早期的工作背景不一致，因此各地方所使用的存儲系統也不盡相同，主要有Access、SQL Server、Oracle、MySQL等系統。本文以國土資源部信息中心開發的地質資料信息集群化共享服務平台的存儲系統MySQL為例說明。該系統是基於關系資料庫管理系統MySQL的一套分布式存儲檢索系統。該系統的部署使得我國地質資料信息服務集群化產業化工作取得了重大進展，同時也為我國建立標准統一的地質資料信息共享服務平台和互聯互通的網路服務體系奠定了堅實的基礎。然而，該系統的研發並沒有考慮到地質資料信息進一步集群化以及在未來地質資料信息進入大數據時代的信息共享和存儲管理問題，也沒有給出明確的解決方案。
1.2 大數據的存儲架構介紹
大數據是近年在雲計算領域中出現的一種新型數據，具有數據量大、數據結構不固定、類型多樣、查詢分析復雜等特點。傳統關系型資料庫管理系統在數據存儲規模、檢索效率等方面已不再適合大數據存儲。NoSQL(Not Only SQL)是與關系資料庫相對的一類資料庫的總稱。這些資料庫放棄了對關系資料庫的支持，轉而採用靈活的、分布式的數據存儲方式管理數據，從而可以滿足大數據存儲和處理的需求。NoSQL基於非關系型數據存儲的設計理念，以鍵值對進行存儲，採用的數據字的結構不固定，每一個元組可以有不一樣的欄位，且每個元組可以根據自己的需要增加一些自己的鍵值對，可以減少一些檢索時間和存儲空間。目前，應用廣泛的 NoSQL 資料庫有 Google BigTable、HBase、MongoDB、Neo4 j、Infinite Graph等。
2 大數據下的地質資料信息存儲架構設計
根據國土資源部做出的全面推進地質資料信息服務集群化產業化工作的部署，國土資源部倡導全國地質資料館使用國土資源部信息中心開發的地質資料信息集群化共享服務平台，實現地質資料信息的存儲和共享。該系統採用了資料庫管理系統MySQL作為數據存儲系統。
為了與現有系統和現有的工作進行對接，並為將來地質資料進入大數據時代後的存儲工作做准備，本文設計了一種能用於海量地質資料信息存儲並且兼容MySQL的分布式的數據存儲架構(圖1)。
整個系統可以根據不同的用戶等級分為不同的用戶管理層，由於圖幅限制，在圖1 中僅僅展示了3級：國家級管理層(即共享服務平台用戶層)、省級管理層以及市級管理層(可根據實際需要延伸至縣級)。
每級管理層的每個用戶可以單獨管理一個伺服器。如國土資源部信息中心可以單獨管理一個伺服器；甘肅省國土資源信息中心可以單獨管理一個伺服器，陝西省國土資源信息中心可以單獨管理一個伺服器；甘肅的若干個市級國土資源局可以根據需要分別管理各自的伺服器。
在伺服器上分別安裝兩套資料庫管理系統，一套是原有的MySQL資料庫管理系統，另一套是為大數據存儲而配備的NoSQL型資料庫管理系統。在伺服器上還專門開發一個資料庫管理器中間件，用於進行用戶層和資料庫的通信以及兩套資料庫之間的通信。
由於各個管理層都各自維護自己的資料庫和數據。當用戶需要進行數據存儲時，他所影響的資料庫僅僅是本地資料庫，存儲效率較高；當用戶需要從多個資料庫讀取數據時，頂層的共享服務平台會根據用戶需求進行任務分解，將任務分發給下層的管理層進行資料庫讀取，由於各個資料庫並行讀取，從而提高了資料庫讀取效率。
圖1 大數據下的地質資料信息存儲架構框圖
2.1 用戶管理層
用戶管理層根據許可權范圍，分為多層(本文以3層為例)。
位於頂層的國家級管理層(共享服務平台用戶層)負責用戶訪問許可權的分配、與其直接關聯的資料庫的訪問、下級管理層任務的分配等工作。
用戶訪問許可權的分配是指為訪問本共享服務平台的個人用戶和單位用戶分配數據的使用許可權、安全性的設計等。
與其直接關聯的資料庫訪問是指直接存儲在其本地資料庫上的數據的訪問。在該資料庫中不僅要存儲所需要的地質資料，還要存儲注冊用戶信息等數據。
下級管理層任務分配是指如果用戶需要訪問多個下層資料庫，用戶只需要輸入查詢這幾個下層資料庫的命令，而如何查找下層資料庫則由該功能來完成。例如某用戶要查找甘肅、陝西、上海、北京的鐵礦分布圖，則用戶只需要輸入這幾個地方及鐵礦等查詢條件，系統將自動把各個省的資料庫查詢任務分派到下級管理層。
同理，位於下層的省級管理層和市級管理層除了沒有用戶訪問許可權功能外，其餘功能與國家級管理層是相同的。各層之間的資料庫通過互聯網相互連接成分布式的資料庫系統。
2.2 MySQL和NoSQL的融合
MySQL是關系型資料庫，它支持SQL查詢語言，而NoSQL是非關系型資料庫，它不支持SQL查詢語言。用戶要想透明地訪問這兩套資料庫，必須要設計資料庫管理器中間件，作為用戶訪問資料庫的統一入口和兩套資料庫管理系統的通信平台。本文所設計的資料庫管理器簡單模型如圖2所示。
圖2 資料庫管理器模型
伺服器管理器通過用戶程序介面與應用程序進行通訊，通過MySQL資料庫介面與MySQL伺服器通訊，通過NoSQL資料庫介面與NoSQL資料庫介面通訊。當應用程序介面接收到一條資料庫訪問命令之後，交由資料庫訪問命令解析器進行命令解析，從而形成MySQL訪問命令或者NoSQL訪問命令，通過相應的資料庫介面訪問資料庫；資料庫返回訪問結果後經過匯總，由應用程序介面返回給應用程序。
兩套資料庫可以通過雙資料庫通信協議進行相互的通信和互訪。此通信協議的建立便於地質工作人員將已經存入MySQL資料庫的不適合結構化存儲的數據轉存到NoSQL資料庫中，從而便於系統的升級和優化。
2.3 系統的存儲和檢索模式
在本存儲框架設計中，系統採用分布式網路存儲模式，即採用可擴展的存儲結構，利用分散在全國各地的多台獨立的伺服器進行數據存儲。這種方式不僅分擔了伺服器的存儲壓力，提高了系統的可靠性和可用性，還易於進行系統擴展。另外，由於地質資料信息存儲的特殊性，各地方用戶的數據存儲工作基本都是在本地伺服器進行，很少通過網路進行遠程存儲，所以數據存儲效率較高。
在一台資料庫伺服器上安裝有MySQL和NoSQL型兩套資料庫管理系統，分別用於存儲地質資料信息中的結構化數據和非結構化數據。其中，NoSQL型資料庫作為主資料庫，用於存儲一部分結構化數據和全部的非結構化數據；而MySQL資料庫作為輔助資料庫，用於存儲一部分結構化的數據，以及舊系統中已經存儲的數據。使用兩套資料庫不僅可以存儲結構化數據而且還可以適用於大數據時代地質資料信息的存儲，因此系統具有很好的適應性和靈活性。
2.4 安全性設計
地質資料信息是國家的機密，地質工作人員必須要保證它的安全。地質資料信息進入數字化時代之後，地質資料常常在計算機以及網路上進行傳輸，地質資料信息的安全傳輸和保存更是地質工作人員必須關注和解決的問題。在本存儲架構的設計中設計的安全問題主要有資料庫存儲安全、數據傳輸安全、數據訪問安全等問題。
資料庫設計時採用多邊安全模型和多級安全模型阻止資料庫中信息和數據的泄露來提高資料庫的安全性能，以保障地質信息在資料庫中的存儲安全；當用戶登錄系統訪問資料庫時，必須進行用戶甄別和實名認證，這主要是對用戶的身份進行有效的識別，防止非法用戶訪問資料庫；在對地質資料進行網路傳輸時，應該首先將數據進行加密，然後再進行網路傳輸，以防止地質信息在傳輸過程中被竊取。
3 結語
提高地質資料數字化信息化水平，是國外地質工作強國的普遍做法。為推進我國地質資料信息服務集群化產業化工作，本文針對我國現有的地質資料信息集群化共享服務平台存在的缺陷和問題，利用大數據存儲管理模式的思想，基於現有系統的存儲架構，設計了一種大數據下的地質資料信息存儲架構，以便於我國地質資料信息服務集群化產業化工作能夠適應大數據時代的數據存儲。該存儲架構的設計只涉及了簡單模型的構建，具體詳細復雜的功能設計和軟體實現還需要在進一步的研究工作中完成。
參考文獻
[1]吳金朋.一種大數據存儲模型的研究與應用[D].北京：北京郵電大學計算機學院，2012.
[2]吳廣君，王樹鵬，陳明，等.海量結構化數據存儲檢索系統[J].計算機研究與發展，2012，49(Suppl)：1～5.
[3]黃
『陸』 分布式基礎-存儲引擎
題目和文章內容有點不太符合,這里存儲引擎是指單機存儲引擎。對於分布式存儲系統來說，存儲引擎是必須的。存儲引擎決定了數據在內存和磁碟中具體如何存儲的，如何方便地拿出來的問題。可以說直接決定了存儲系統的性能和可以干什麼，不可以干什麼的問題；本文參考《數據密集型應用系統的設計》 和《大規模分布式存儲系統原理解析和架構實戰》。
存儲系統的功能做機制的簡化就是存儲和查詢，如果從一般功能出發就是基礎的增刪改查。從最簡單的開始想起，最簡單的存儲系統，無非就是把數據直接寫入到文件中（可以按照K,V一行方式存儲），需要的時候就順序讀取文件，找到可以需要查詢的行。這在少量的數據的時候並沒有問題，但是如果是大批量數據，幾百MB或者幾GB，甚至TB，PB的時候，順序讀取大量文件那速度慢的嚇人。
順序讀取文件做遍歷查找，速度很慢，我們第一想到的思路是建索引，索引最常用的就是哈希表了，如果我們對文件中的數據建個索引，Key 保存著我們下次要查詢的值，Value對應這哪個文件的哪個位置。在內存中保存這個索引，下次查詢的時候，我們通過哈希錶快速定位到文件和位置，就可以迅速取到需要的值了。Bitcask折中日誌型小型文件系統就採用這種存儲方法，它可以提供高性能的讀寫，只需要經過一次磁碟的定址就可以獲取到所需要的數據。
作為日誌型的存儲系統，Bitcask的刪除和修改是通過順序記錄到文件中，並不是對原來的文件進行修改，這減少了隨機磁碟的讀寫操作。數據寫入到文件中，如果一直寫，顯然文件越來越大，不便於操作，所以限制文件的大小，當大小達到一定規模後，重新寫入一個文件。 對於更新和刪除的數據，如果不處理，會產生大量的垃圾數據，佔用了空間，所以後台會定時進行文件合並，合並的時候刪除標記刪除的具體數據。
Bitcask
哈希存儲引擎的數據分為兩份，一份是內存中的數據，一個是磁碟的文件，系統崩潰後，磁碟中的哈希表就沒有了。如果恢復的時候通過讀取文件的方式也是可以重建的，但是如果文件很多，很大，恢復的時間就會很長，Bitcask對每個段的文件的哈希錶快照存儲在文件中，下次恢復的時候可以快速恢復。
Bitcask只有一個寫入線程追加，可以採用多個讀取的線程並發讀取，性能上還是很不錯。
哈希存儲引擎 因為採用哈希表，查找的性能不錯，但是同樣因為採用哈希存儲引擎，會導致范圍查詢，只能通過遍歷的方式去查詢數據，范圍查詢慢。
剛才結構也說了，索引必須可以保存在內存中，才可以性能夠好，但是如果數據量超大，內存中無法保存，保存到磁碟中，會產生大量的隨機訪問。另外哈希還存在著哈希沖突的問題。
剛才的哈希存儲引擎的兩個缺點，一是范圍查詢性能很差，我們要做范圍查詢，最好數據是有序的，有序的就可以不用遍歷全部數據去做范圍查詢了。所以我們內存的數據不就不適合哈希索引，我們可以考慮改造成一個支持排序的數據結構。 另外剛才的哈希存儲引擎，數據是按照順序寫入到數據文件中的，如果同一個key的多次更新，只保留最後一個數據的時候，是不是挺麻煩。
我們可以將文件中和內存中的數據都排序，這種格式稱為排序字元串，在Level DB中叫SSTable。文件中的K-V結構排序後，好處是我們在做多文件合並的時候，可以按照多路歸並的演算法，快速排序，用多個指針依次比較和後移就可以辦到。多個文件含有同一個值的時候，我們可以保留最新的欄位值。
內存中的數據排序後，我們不一定對所有的數據的key都保存，可以只保存部分，根據key的排序特性，也可以很容易找到要找的值。 由於要對內存中的數據排隊，而且數據要經常插入和刪除，所以紅黑樹和AVL樹是比較適合這種場合。對於存儲在磁碟上的文件，也是有序的，用普通的AVL樹或紅黑樹，保存到磁碟上後，數據多的話，樹的層次會很高，這樣通過多個指針需要多次隨機讀取，所以一般採用專門為大數據存儲磁碟而設計的B+樹，B+樹的每個節點的分叉很多，一個節點可能有上千個分支。這樣很少的層次就可以支持大量的數據了。
這種引擎如何寫入數據：
如何讀取數據：
這個存儲引擎就是LSM 存儲引擎的本質了，Level DB 就是採用這個存儲引擎的。
類似的存儲引擎還用於HBASE，以前還記得學習HBase的時候minor compaction（少量的HFile合適小文件合並，為提升性能同時減少IO壓力）和major compaction（一個Node節點的所有文件合並），還比較迷茫。 從上圖的Level DB存儲引擎圖可以看出，數據處理過程：
說明清單文件保存的是元數據信息，記錄了每個SSTable文件所屬的Level，文件中的key的最大值和最小值。同時由於SSTable文件經常變動的，所以增加個當前文件指向當前的清單文件這樣操作起來就不用加鎖了。
相對於以上兩種引擎，B樹存儲引擎應用的最廣泛，在關系型資料庫中運用的很多。B樹存儲引擎不光支持隨機查詢，還很好地支持范圍查詢。像SSTable一樣，B樹引擎同樣保持了對key的排序。在文件存儲上，還是有很大的差異。LSM存儲引擎的段文件大小不一，是順序寫入到磁碟的。B-Tree不像LSM樹那樣有內存表和SSTable，而只有一個B樹，當然一些頂層塊常在內存中。
B樹是按照塊存儲資料庫的數據的，它一般是一個多叉樹，比如InnoDB引擎採用B+樹存儲，每個節點大概有1200個子分支。B樹分為葉子節點和非葉子節點，葉子節點存儲的是key和具體的數據，而非葉子節點存的是key和磁碟地址。
B樹存儲結構
以B+樹為例說明查詢和插入的基本流程
讀取一個節點，如果對應的節點所在的數據頁不在內存中，需要按照下面的過程從磁碟中讀取，然後緩存在內存中。
插入和更新按照InnoDB引擎為例的話,還是比較復雜。
實際中還涉及到bin log日誌。可以看到實際工程中，B-樹引擎還是通過redo log這種WAL日誌，用順序磁碟讀寫替換了隨機讀寫；change buffer 減少了隨機讀數據的過程，可以合並多條修改記錄，一次性寫，增加了性能。
B樹和LSM樹相比有以下特點： B-樹引擎特點：
『柒』 分布式架構和分布式系統存儲研發的區別是什麼
分布式架構是軟體系統
分布式系統存儲是基於存儲、伺服器、資料庫技術、容災熱備等技術的系統集成。
hps+ssan多節點+ibm6000伺服器+Oraclerac是一套基於全快閃記憶體融合擴容hds的分布式存儲系統。
在這個上面允許的xx雲軟體，是一個基於分布式架構的軟體系統
人才少，需求量大是什麼意思？
我基本上除了阿里王博士，和阿里超融合一體機的相關負責人，還沒有見過聽說過能一個人把整套分布式系統存儲技術搞定的
所以你說的人才少是合理的
需求量大就存疑了.......
人家大廠研發好了，一般技術人員去實施運維就好了啊
以聯想為例，他的超融合一體機研發，需求量大么...
哦，博士確實挺缺的....
分布式架構是軟體系統
分布式系統存儲是基於存儲、伺服器、資料庫技術、容災熱備等技術的系統集成
數字經濟時代，各個企業、個人都在生產數據，利用數據，數據也在 社會 中不斷流動、循環，為這個時代創造著價值與機遇。盡管數據如此珍貴，但我們仍然會聽到在集中式存儲場景中，由於網路攻擊、火災、地震而造成數據故障、丟失等問題。
為了防止數據出現故障、數據丟失、伺服器出錯、數據無法恢復等情況，越來越多企業開始把集中存儲轉變為分布式存儲。分布式存儲，類似於「把雞蛋放到不同的籃子里」，簡單來說就是把一張照片或文件切碎並放在不同的存儲伺服器上，任何人都可以成為節點，任何人都可以成為中心，因此，無論數據中心發生數據丟失，數據存儲都可以實現永久存儲，只要存在存儲伺服器，就能恢復數據。
其實，分布式存儲已經不是什麼新鮮事物，而是經歷了多年的積累和發展，用戶對支撐的伺服器需求也越來越明確：相比傳統伺服器，分布式存儲需要更大存儲容量，兼具性能的同時，還要更靈活的存儲能力，專門的存儲伺服器應運而生。
存儲伺服器是隨著互聯網分布式存儲架構迅速崛起而出現的一個伺服器品類，隨著大數據、視頻、圖片搜索等互聯網創新應用的發展，適用於不同場景的存儲伺服器種類也越來越多。當前，不僅互聯網運營商在大規模采購存儲伺服器，傳統的企業和政府也在批量部署，用於視頻、文件歸檔、郵件以及大數據分析等應用。
浪潮信息一直是存儲伺服器的主要供應商，今年4月浪潮信息發布了全新的M6系列伺服器，其中就包含存儲伺服器子系列，包含2U24盤、4U46盤、4U60盤、4U106盤等一系列產品，覆蓋冷存儲、溫存儲以及視頻分析等不同用戶不同類型的應用場景。其中，NF5466M6就是一款4U46盤，兼顧高存儲容量、強大計算性能和極致IO擴展能力的雙路存儲優化伺服器，是分布式存儲架構的不二之選。
『捌』 大數據時代需要什麼樣的存儲
眾多專家認為，大數據時代的存儲，應當是分布式的存儲，並呈現出與計算融合的趨勢。當然，不同專家對融合的理解也有所區別。 SNIA-China技術委員會主席雷濤表示，在當前的大數據時代，由於數據量TB、PB級的急劇膨脹，傳統的數據搬移工作已經不現實，因而存儲伺服器出現新的融合趨勢。在這樣的架構中，數據不再移動，寫入以後分散在STORAGE，它的計算節點融合在數據旁邊的CPU，數據越來越貼近計算。 雷濤補充說，大數據只談商業分析的數據支持，這是小數據思維，從金融、運營商、政府行業我們做的項目裡面發現，大數據是嵌入到整個行業裡面，替換以前的存儲和計算的系統架構的過程。 華為存儲產品線Marketing部長經寧認為，大數據帶來的三大變化，包括從集中式走向分布式，從水平走向縱向，從計算為中心轉向以數據為中心，總結一句話，即在大數據下架構方向走向分布式存儲的架構。 2013年，華為存儲產品線把理念進行升級，變成「存以致用，融以致遠」。經寧表示，融合架構是我們面對大數據挑戰一個很好的選擇。華為更多的希望把數據智能用起來產生價值，通過融合架構實現計算存儲融合，可以帶來更高的管理效率更高效能，大大降低我們管理上的開銷。 中橋國際調研咨詢公司首席分析師王叢女士則從虛擬化、雲計算數據保護和融合架構三個維度談了中國數據中心的發展變化。她表示，具有高可移動性的虛擬機用於生產，掉了鏈子就很難判斷是哪個物理環境，這就驅動了融合架構。融合架構避免了整合的時間和網路問題判斷的時間，能夠實現統一集中透明管理，可以根據工作負載去實時動態配置資源，也可以實時監控哪裡出了問題，怎麼解決問題。 王叢還指出，融合架構有不同的形態，其中一種是在原來硬體基礎上用一個軟體罩上，然後形成融合架構，實現目的是可以在線擴展，所有動態可以負載均衡，在最大限度提高部署效率前提下，又能夠降低因為硬體問題而導致的應用性能降低和應用的不穩定。 老牌存儲廠商NetApp同樣對存儲架構很有體會。NetApp公司北方區及電信事業部技術總監劉煒表示，在今天把數據存起來不是很難的問題，買一個移動硬碟就可以存儲數據，但是在上面存儲享受的服務級別不同的，不同於放在數據中心和網路雲上面的服務級別的。 為了不讓數據成為整個企業發展的負擔，而是成為真正的價值點，從資料變成資產，基礎架構需要快速、安全地支持一些新的技術手段。劉煒認為，應用級別和服務級別怎麼定義需要有很好存儲架構。NetApp集群存儲系統，並不是簡單地迎合新概念，而是面向實際的應用設計。NetApp做了很多IT架構的設計，滿足應用分級、資源分層的需求，你可以用虛擬化，也可以不用。 Fusion-io大中國區技術總監Tonny Ai與英特爾公司通信和存儲基礎架構事業部存儲部市場總監 Christine M Rice女士談到了SSD在大數據時代數據中心的應用。Tonny Ai表示，讓包括非結構化數據的大量數據快速變成信息，不僅僅是伺服器要快，存儲速度也要跟上CPU的速度，快閃記憶體正是針對當前網路存儲速度落後的解決方案，能夠有效提高存儲的性能。 同時，Tonny Ai認為，在雲計算、大數據時代，集中式存儲需要的管理和維護非常困難，分布式存儲模型是大勢所趨。在這其中，Fusion-io提供了PCIe快閃記憶體卡、全快閃記憶體陣列以及SDK工具，支持提升各種應用的性能。 Christine M Rice女士指出，SSD不只是讓數據變快。她認為，通過SSD在數據中心的使用，能夠幫助節約成本，降低延遲，加快訪問數據的速度，同時還能夠提供非常高的可靠性和管理級別，結合了DRM的使用進行軟體分層管理。 戴爾亞太存儲技術總監許良謀則強調了SSD的利用要在成本和性能之間的平衡，如何更好地應對大數據——快閃記憶體的成本和壽命讓很多企業對它愛恨交加。許良謀認為，大數據需要一個高容量高速度的共享存儲，戴爾的流動數據架構就是一個讓數據平滑遷移的平台。 戴爾實現了一個新的技術突破，即快速SLC和eMLC大容量盤可以用到流動架構裡面，再加上普通的大容量盤，兩級固態盤優化和流動數據架構的配合，這種方案可以比普通純快閃記憶體的方式實現75%以上的成本節約。 許良謀介紹到，戴爾一直通過收購、合作等方式，在自身產品線中不斷引入新的存儲技術，力圖把最好的存儲產品以最經濟的方式提供給用戶。