㈠ 詳細解讀你所不了解的「大數據」
詳細解讀你所不了解的「大數據」
進入2012年，大數據(bigdata)一詞越來越多地被提及，人們用它來描述和定義信息爆炸時代產生的海量數據，並命名與之相關的技術發展與創新。它已經上過《》《華爾街日報》的專欄封面，進入美國白宮官網的新聞，現身在國內一些互聯網主題的講座沙龍中，甚至被嗅覺靈敏的證券公司等寫進了投資推薦報告。
一、大數據出現的背景
進入2012年，大數據(bigdata)一詞越來越多地被提及，人們用它來描述和定義信息爆炸時代產生的海量數據，並命名與之相關的技術發展與創新。它已經上過《》《華爾街日報》的專欄封面，進入美國白宮官網的新聞，現身在國內一些互聯網主題的講座沙龍中，甚至被嗅覺靈敏的證券公司等寫進了投資推薦報告。
數據正在迅速膨脹並變大，它決定著企業的未來發展，雖然現在企業可能並沒有意識到數據爆炸性增長帶來問題的隱患，但是隨著時間的推移，人們將越來越多的意識到數據對企業的重要性。大數據時代對人類的數據駕馭能力提出了新的挑戰，也為人們獲得更為深刻、全面的洞察能力提供了前所未有的空間與潛力。
最早提出大數據時代到來的是全球知名咨詢公司麥肯錫，麥肯錫稱：「數據，已經滲透到當今每一個行業和業務職能領域，成為重要的生產因素。人們對於海量數據的挖掘和運用，預示著新一波生產率增長和消費者盈餘浪潮的到來。」「大數據」在物理學、生物學、環境生態學等領域以及軍事、金融、通訊等行業存在已有時日，卻因為近年來互聯網和信息行業的發展而引起人們關注。
大數據在互聯網行業指的是這樣一種現象：互聯網公司在日常運營中生成、累積的用戶網路行為數據。這些數據的規模是如此龐大，以至於不能用G或T來衡量，大數據的起始計量單位至少是P(1000個T)、E(100萬個T)或Z(10億個T)。
二、什麼是大數據？
信息技術領域原先已經有「海量數據」、「大規模數據」等概念，但這些概念只著眼於數據規模本身，未能充分反映數據爆發背景下的數據處理與應用需求，而「大數據」這一新概念不僅指規模龐大的數據對象，也包含對這些數據對象的處理和應用活動，是數據對象、技術與應用三者的統一。
1、大數據(bigdata)，或稱巨量資料，指的是所涉及的資料量規模巨大到無法透過目前主流軟體工具，在合理時間內達到擷取、管理、處理、並整理成為幫助企業經營決策更積極目的的資訊。大數據對象既可能是實際的、有限的數據集合，如某個政府部門或企業掌握的資料庫，也可能是虛擬的、無限的數據集合，如微博、微信、社交網路上的全部信息。
大數據是需要新處理模式才能具有更強的決策力、洞察發現力和流程優化能力的海量、高增長率和多樣化的信息資產。從數據的類別上看，「大數據」指的是無法使用傳統流程或工具處理或分析的信息。它定義了那些超出正常處理范圍和大小、迫使用戶採用非傳統處理方法的數據集。
亞馬遜網路服務(AWS)、大數據科學家JohnRauser提到一個簡單的定義：大數據就是任何超過了一台計算機處理能力的龐大數據量。研發小組對大數據的定義：「大數據是最大的宣傳技術、是最時髦的技術，當這種現象出現時，定義就變得很混亂。」Kelly說：「大數據是可能不包含所有的信息，但我覺得大部分是正確的。對大數據的一部分認知在於，它是如此之大，分析它需要多個工作負載，這是AWS的定義。
2、大數據技術，是指從各種各樣類型的大數據中，快速獲得有價值信息的技術的能力，包括數據採集、存儲、管理、分析挖掘、可視化等技術及其集成。適用於大數據的技術，包括大規模並行處理（MPP）資料庫，數據挖掘電網，分布式文件系統，分布式資料庫，雲計算平台，互聯網，和可擴展的存儲系統。
3、大數據應用，是指對特定的大數據集合，集成應用大數據技術，獲得有價值信息的行為。對於不同領域、不同企業的不同業務，甚至同一領域不同企業的相同業務來說，由於其業務需求、數據集合和分析挖掘目標存在差異，所運用的大數據技術和大數據信息系統也可能有著相當大的不同。惟有堅持「對象、技術、應用」三位一體同步發展，才能充分實現大數據的價值。
當你的技術達到極限時，也就是數據的極限」。大數據不是關於如何定義，最重要的是如何使用。最大的挑戰在於哪些技術能更好的使用數據以及大數據的應用情況如何。這與傳統的資料庫相比，開源的大數據分析工具的如Hadoop的崛起，這些非結構化的數據服務的價值在哪裡。
三、大數據的類型和價值挖掘方法
1、大數據的類型大致可分為三類：
1)傳統企業數據（Traditionalenterprisedata）：包括 CRMsystems的消費者數據，傳統的ERP數據，庫存數據以及賬目數據等。
2)機器和感測器數據（Machine-generated/sensor data）：包括呼叫記錄（CallDetailRecords），智能儀表，工業設備感測器，設備日誌（通常是Digital exhaust），交易數據等。
3)社交數據（Socialdata）：包括用戶行為記錄，反饋數據等。如Twitter，Facebook這樣的社交媒體平台。
2、大數據挖掘商業價值的方法主要分為四種：
1)客戶群體細分，然後為每個群體量定製特別的服務。
2)模擬現實環境，發掘新的需求同時提高投資的回報率。
3)加強部門聯系，提高整條管理鏈條和產業鏈條的效率。
4)降低服務成本，發現隱藏線索進行產品和服務的創新。
四、大數據的特點
業界通常用4個V(即Volume、Variety、Value、Velocity)來概括大數據的特徵。具體來說，大數據具有4個基本特徵：
1、是數據體量巨大
數據體量(volumes)大，指代大型數據集，一般在10TB規模左右，但在實際應用中，很多企業用戶把多個數據集放在一起，已經形成了PB級的數據量;網路資料表明，其新首頁導航每天需要提供的數據超過1.5PB（1PB=1024TB），這些數據如果列印出來將超過5千億張A4紙。有資料證實，到目前為止，人類生產的所有印刷材料的數據量僅為200PB。
2、是數據類別大和類型多樣
數據類別(variety)大，數據來自多種數據源，數據種類和格式日漸豐富，已沖破了以前所限定的結構化數據范疇，囊括了半結構化和非結構化數據。現在的數據類型不僅是文本形式，更多的是圖片、視頻、音頻、地理位置信息等多類型的數據，個性化數據占絕對多數。
3、是處理速度快
在數據量非常龐大的情況下，也能夠做到數據的實時處理。數據處理遵循「1秒定律」，可從各種類型的數據中快速獲得高價值的信息。
4、是價值真實性高和密度低
數據真實性(Veracity)高，隨著社交數據、企業內容、交易與應用數據等新數據源的興趣，傳統數據源的局限被打破，企業愈發需要有效的信息之力以確保其真實性及安全性。以視頻為例，一小時的視頻，在不間斷的監控過程中，可能有用的數據僅僅只有一兩秒。
五、大數據的作用
1、對大數據的處理分析正成為新一代信息技術融合應用的結點
移動互聯網、物聯網、社交網路、數字家庭、電子商務等是新一代信息技術的應用形態，這些應用不斷產生大數據。雲計算為這些海量、多樣化的大數據提供存儲和運算平台。通過對不同來源數據的管理、處理、分析與優化，將結果反饋到上述應用中，將創造出巨大的經濟和社會價值。
大數據具有催生社會變革的能量。但釋放這種能量，需要嚴謹的數據治理、富有洞見的數據分析和激發管理創新的環境(RamayyaKrishnan,卡內基·梅隆大學海因茲學院院長)。
2、大數據是信息產業持續高速增長的新引擎
面向大數據市場的新技術、新產品、新服務、新業態會不斷涌現。在硬體與集成設備領域，大數據將對晶元、存儲產業產生重要影響，還將催生一體化數據存儲處理伺服器、內存計算等市場。在軟體與服務領域，大數據將引發數據快速處理分析、數據挖掘技術和軟體產品的發展。
3、大數據利用將成為提高核心競爭力的關鍵因素
各 行各業的決策正在從「業務驅動」轉變「數據驅動」。對大數據的分析可以使零售商實時掌握市場動態並迅速做出應對；可以為商家制定更加精準有效的營銷策略提供決策支持；可以幫助企業為消費者提供更加及時和個性化的服務；在醫療領域，可提高診斷准確性和葯物有效性；在公共事業領域，大數據也開始發揮促進經濟發展、維護社會穩定等方面的重要作用。
4、大數據時代科學研究的方法手段將發生重大改變
例如，抽樣調查是社會科學的基本研究方法。在大數據時代，可通過實時監測、跟蹤研究對象在互聯網上產生的海量行為數據，進行挖掘分析，揭示出規律性的東西，提出研究結論和對策。
六、大數據的商業價值
1、對顧客群體細分
「大數據」可以對顧客群體細分，然後對每個群體量體裁衣般的採取獨特的行動。瞄準特定的顧客群體來進行營銷和服務是商家一直以來的追求。雲存儲的海量數據和「大數據」的分析技術使得對消費者的實時和極端的細分有了成本效率極高的可能。
2、模擬實境
運用「大數據」模擬實境，發掘新的需求和提高投入的回報率。現在越來越多的產品中都裝有感測器，汽車和智能手機的普及使得可收集數據呈現爆炸性增長。Blog、Twitter、Facebook和微博等社交網路也在產生著海量的數據。
雲計算和「大數據」分析技術使得商家可以在成本效率較高的情況下，實時地把這些數據連同交易行為的數據進行儲存和分析。交易過程、產品使用和人類行為都可以數據化。「大數據」技術可以把這些數據整合起來進行數據挖掘，從而在某些情況下通過模型模擬來判斷不同變數(比如不同地區不同促銷方案)的情況下何種方案投入回報最高。
3、提高投入回報率
提高「大數據」成果在各相關部門的分享程度，提高整個管理鏈條和產業鏈條的投入回報率。「大數據」能力強的部門可以通過雲計算、互聯網和內部搜索引擎把」大數據」成果和「大數據」能力比較薄弱的部門分享，幫助他們利用「大數據」創造商業價值。
4、數據存儲空間出租
企業和個人有著海量信息存儲的需求，只有將數據妥善存儲，才有可能進一步挖掘其潛在價值。具體而言，這塊業務模式又可以細分為針對個人文件存儲和針對企業用戶兩大類。主要是通過易於使用的API，用戶可以方便地將各種數據對象放在雲端，然後再像使用水、電一樣按用量收費。目前已有多個公司推出相應服務，如亞馬遜、網易、諾基亞等。運營商也推出了相應的服務，如中國移動的彩雲業務。
5、管理客戶關系
客戶管理應用的目的是根據客戶的屬性(包括自然屬性和行為屬性)，從不同角度深層次分析客戶、了解客戶，以此增加新的客戶、提高客戶的忠誠度、降低客戶流失率、提高客戶消費等。對中小客戶來說，專門的CRM顯然大而貴。不少中小商家將飛信作為初級CRM來使用。比如把老客戶加到飛信群里，在群朋友圈裡發布新產品預告、特價銷售通知，完成售前售後服務等。
6、個性化精準推薦
在運營商內部，根據用戶喜好推薦各類業務或應用是常見的，比如應用商店軟體推薦、IPTV視頻節目推薦等，而通過關聯演算法、文本摘要抽取、情感分析等智能分析演算法後，可以將之延伸到商用化服務，利用數據挖掘技術幫助客戶進行精準營銷，今後盈利可以來自於客戶增值部分的分成。
以日常的「垃圾簡訊」為例，信息並不都是「垃圾」，因為收到的人並不需要而被視為垃圾。通過用戶行為數據進行分析後，可以給需要的人發送需要的信息，這樣「垃圾簡訊」就成了有價值的信息。在日本的麥當勞，用戶在手機上下載優惠券，再去餐廳用運營商DoCoMo的手機錢包優惠支付。運營商和麥當勞搜集相關消費信息，例如經常買什麼漢堡，去哪個店消費，消費頻次多少，然後精準推送優惠券給用戶。
7、數據搜索
數據搜索是一個並不新鮮的應用，隨著「大數據」時代的到來，實時性、全范圍搜索的需求也就變得越來越強烈。我們需要能搜索各種社交網路、用戶行為等數據。其商業應用價值是將實時的數據處理與分析和廣告聯系起來，即實時廣告業務和應用內移動廣告的社交服務。
運營商掌握的用戶網上行為信息，使得所獲取的數據「具備更全面維度」，更具商業價值。典型應用如中國移動的「盤古搜索」。
七、大數據對經濟社會的重要影響
1、能夠推動實現巨大經濟效益
比如對中國零售業凈利潤增長的貢獻，降低製造業產品開發、組裝成本等。預計2013年全球大數據直接和間接拉動信息技術支出將達1200億美元。
2、能夠推動增強社會管理水平
大數據在公共服務領域的應用，可有效推動相關工作開展，提高相關部門的決策水平、服務效率和社會管理水平，產生巨大社會價值。歐洲多個城市通過分析實時採集的交通流量數據，指導駕車出行者選擇最佳路徑，從而改善城市交通狀況。
3、如果沒有高性能的分析工具，大數據的價值就得不到釋放
對大數據應用必須保持清醒認識，既不能迷信其分析結果，也不能因為其不完全准確而否定其重要作用。
1)由於各種原因，所分析處理的數據對象中不可避免地會包括各種錯誤數據、無用數據，加之作為大數據技術核心的數據分析、人工智慧等技術尚未完全成熟，所以對計算機完成的大數據分析處理的結果，無法要求其完全准確。例如，谷歌通過分析億萬用戶搜索內容能夠比專業機構更快地預測流感暴發，但由於微博上無用信息的干擾，這種預測也曾多次出現不準確的情況。
2)必須清楚定位的是，大數據作用與價值的重點在於能夠引導和啟發大數據應用者的創新思維，輔助決策。簡單而言，若是處理一個問題，通常人能夠想到一種方法，而大數據能夠提供十種參考方法，哪怕其中只有三種可行，也將解決問題的思路拓展了三倍。
所以，客觀認識和發揮大數據的作用，不誇大、不縮小，是准確認知和應用大數據的前提。
八、總結
不管大數據的核心價值是不是預測，但是基於大數據形成決策的模式已經為不少的企業帶來了盈利和聲譽。
1、從大數據的價值鏈條來分析，存在三種模式：
1)手握大數據，但是沒有利用好；比較典型的是金融機構，電信行業，政府機構等。
2)沒有數據，但是知道如何幫助有數據的人利用它；比較典型的是IT咨詢和服務企業，比如，埃森哲，IBM，Oracle等。
3)既有數據，又有大數據思維；比較典型的是Google，Amazon，Mastercard等。
2、未來在大數據領域最具有價值的是兩種事物：
1)擁有大數據思維的人，這種人可以將大數據的潛在價值轉化為實際利益；
2)還未有被大數據觸及過的業務領域。這些是還未被挖掘的油井，金礦，是所謂的藍海。
大數據是信息技術與專業技術、信息技術產業與各行業領域緊密融合的典型領域，有著旺盛的應用需求、廣闊的應用前景。為把握這一新興領域帶來的新機遇，需要不斷跟蹤研究大數據，不斷提升對大數據的認知和理解，堅持技術創新與應用創新的協同共進，加快經濟社會各領域的大數據開發與利用，推動國家、行業、企業對於數據的應用需求和應用水平進入新的階段。
㈡ 什麼是大數據有什麼特徵與性質
大數據必然無法用單台的計算機進行處理，必須採用分布式架構。大數據也是具備有一定的特徵與性質的。以下是由我整理的大數據的內容，希望大家喜歡!
大數據的主要介紹
大數據(big data)，指無法在一定時間范圍內用常規軟體工具進行捕捉、管理和處理的數據集合，是需要新處理模式才能具有更強的決策力、洞察發現力和流程優化能力來適應海量、高增長率和多樣化的信息資產，
在維克托·邁爾-舍恩伯格及肯尼斯·庫克耶編寫的《大數據時代》中大數據指不用隨機分析法(抽樣調查)這樣捷徑，而採用所有數據進行分析處理。大數據的5V特點(IBM提出)：Volume(大量)、Velocity(高速)、Variety(多樣)、Value(價值)、Veracity(真實性)。
大數據的特徵
容量(Volume)：數據的大小決定所考慮的數據的價值和潛在的信息;
種類(Variety)：數據類型的多樣性;
速度(Velocity)：指獲得數據的速度;
可變性(Variability)：妨礙了處理和有效地管理數據的過程。
真實性(Veracity)：數據的質量
復雜性(Complexity)：數據量巨大，來源多 渠道
價值(value)：合理運用大數據，以低成本創造高價值
大數據的意義
現在的社會是一個高速發展的社會，科技發達，信息流通，人們之間的交流越來越密切，生活也越來越方便，大數據就是這個高科技時代的產物。[7] 阿里巴巴創辦人馬雲來台演講中就提到，未來的時代將不是IT時代，而是DT的時代，DT就是Data Technology數據科技，顯示大數據對於阿里巴巴集團來說舉足輕重。
有人把數據比喻為蘊藏能量的煤礦。煤炭按照性質有焦煤、無煙煤、肥煤、貧煤等分類，而露天煤礦、深山煤礦的挖掘成本又不一樣。與此類似，大數據並不在“大”，而在於“有用”。價值含量、挖掘成本比數量更為重要。對於很多行業而言，如何利用這些大規模數據是贏得競爭的關鍵。
大數據的價值體現在以下幾個方面：
1)對大量消費者提供產品或服務的企業可以利用大數據進行精準營銷
2) 做小而美模式的中小微企業可以利用大數據做服務轉型
3) 面臨互聯網壓力之下必須轉型的傳統企業需要與時俱進充分利用大數據的價值
不過，“大數據”在經濟發展中的巨大意義並不代表其能取代一切對於社會問題的理性思考，科學發展的邏輯不能被湮沒在海量數據中。著名經濟學家路德維希·馮·米塞斯曾提醒過：“就今日言，有很多人忙碌於資料之無益累積，以致對問題之說明與解決，喪失了其對特殊的經濟意義的了解。”這確實是需要警惕的。
在這個快速發展的智能硬體時代，困擾應用開發者的一個重要問題就是如何在功率、覆蓋范圍、傳輸速率和成本之間找到那個微妙的平衡點。企業組織利用相關數據和分析可以幫助它們降低成本、提高效率、開發新產品、做出更明智的業務決策等等。例如，通過結合大數據和高性能的分析，下面這些對企業有益的情況都可能會發生:
1)及時解析故障、問題和缺陷的根源，每年可能為企業節省數十億美元。
2)為成千上萬的快遞車輛規劃實時交通路線，躲避擁堵。
3)分析所有SKU，以利潤最大化為目標來定價和清理庫存。
4)根據客戶的購買習慣，為其推送他可能感興趣的優惠信息。
5)從大量客戶中快速識別出金牌客戶。
6)使用點擊流分析和數據挖掘來規避欺詐行為。
大數據的結構
大數據就是互聯網發展到現今階段的一種表象或特徵而已，沒有必要神話它或對它保持敬畏之心，在以雲計算為代表的技術創新大幕的襯托下，這些原本看起來很難收集和使用的數據開始容易被利用起來了，通過各行各業的不斷創新，大數據會逐步為人類創造更多的價值。
其次，想要系統的認知大數據，必須要全面而細致的分解它，我著手從三個層面來展開：
第一層面是理論，理論是認知的必經途徑，也是被廣泛認同和傳播的基線。在這里從大數據的特徵定義理解行業對大數據的整體描繪和定性;從對大數據價值的探討來深入解析大數據的珍貴所在;洞悉大數據的發展趨勢;從大數據隱私這個特別而重要的視角審視人和數據之間的長久博弈。
第二層面是技術，技術是大數據價值體現的手段和前進的基石。在這里分別從雲計算、分布式處理技術、存儲技術和感知技術的發展來說明大數據從採集、處理、存儲到形成結果的整個過程。
第三層面是實踐，實踐是大數據的最終價值體現。在這里分別從互聯網的大數據，政府的大數據，企業的大數據和個人的大數據四個方面來描繪大數據已經展現的美好景象及即將實現的藍圖。
大數據的應用
洛杉磯警察局和加利福尼亞大學合作利用大數據預測犯罪的發生。
google流感趨勢(Google Flu Trends)利用搜索關鍵詞預測禽流感的散布。
統計學家內特.西爾弗(Nate Silver)利用大數據預測2012美國選舉結果。
麻省理工學院利用手機定位數據和交通數據建立城市規劃。
梅西百貨的實時定價機制。根據需求和庫存的情況，該公司基於SAS的系統對多達7300萬種貨品進行實時調價。
醫療行業早就遇到了海量數據和非結構化數據的挑戰，而近年來很多國家都在積極推進醫療信息化發展，這使得很多醫療機構有資金來做大數據分析。
大數據的主要特點
第一，數據體量巨大。從TB級別，躍升到PB級別。
第二，數據類型繁多，如前文提到的網路日誌、視頻、圖片、地理位置信息，等等。
第三，價值密度低。以視頻為例，連續不間斷監控過程中，可能有用的數據僅僅有一兩秒。
第四，處理速度快。1秒定律。最後這一點也是和傳統的數據挖掘技術有著本質的不同。物聯網、雲計算、移動互聯網、車聯網、手機、平板電腦、PC以及遍布地球各個角落的各種各樣的感測器，無一不是數據來源或者承載的方式。
㈢ 大數據的特徵有哪些
大數據是什麼？其實很簡單，大數據其實就是海量資料巨量資料，這些巨量資料來源於世界各地隨時產生的數據，在大數據時代，任何微小的數據都可能產生不可思議的價值。大數據有4個特點，為別為：Volume（大量）、Variety（多樣）、Velocity（高速）、Value（價值），一般我們稱之為4V。
所謂4V，具體指如下4點：
1．大量。大數據的特徵首先就體現為「大」，從先Map3時代，一個小小的MB級別的Map3就可以滿足很多人的需求，然而隨著時間的推移，存儲單位從過去的GB到TB，乃至現在的PB、EB級別。隨著信息技術的高速發展，數據開始爆發性增長。社交網路（微博、推特、臉書）、移動網路、各種智能工具，服務工具等，都成為數據的來源。淘寶網近4億的會員每天產生的商品交易數據約20TB；臉書約10億的用戶每天產生的日誌數據超過300TB。迫切需要智能的演算法、強大的數據處理平台和新的數據處理技術，來統計、分析、預測和實時處理如此大規模的數據。
2．多樣。廣泛的數據來源，決定了大數據形式的多樣性。任何形式的數據都可以產生作用，目前應用最廣泛的就是推薦系統，如淘寶，網易雲音樂、今日頭條等，這些平台都會通過對用戶的日誌數據進行分析，從而進一步推薦用戶喜歡的東西。日誌數據是結構化明顯的數據，還有一些數據結構化不明顯，例如圖片、音頻、視頻等，這些數據因果關系弱，就需要人工對其進行標注。
大數據
3．高速。大數據的產生非常迅速，主要通過互聯網傳輸。生活中每個人都離不開互聯網，也就是說每天個人每天都在向大數據提供大量的資料。並且這些數據是需要及時處理的，因為花費大量資本去存儲作用較小的歷史數據是非常不劃算的，對於一個平台而言，也許保存的數據只有過去幾天或者一個月之內，再遠的數據就要及時清理，不然代價太大。基於這種情況，大數據對處理速度有非常嚴格的要求，伺服器中大量的資源都用於處理和計算數據，很多平台都需要做到實時分析。數據無時無刻不在產生，誰的速度更快，誰就有優勢。
㈣ 什麼是大數據,它有哪些特點
大數據技術是指從各種各樣海量類型的數據中，快速獲得有價值信息的能力。適用於大數據的技術，包括大規模並行處理（MPP）資料庫，數據挖掘電網，分布式文件系統，分布式資料庫，雲計算平台，互聯網，和可擴展的存儲系統。
大數據具備以下4個特點：
一是數據量巨大。例如，人類生產的所有印刷材料的數據量僅為200PB。典型個人計算機硬碟的容量為TB量級，而一些大企業的數據量已經接近EB量級。
二是數據類型多樣。現在的數據類型不僅是文本形式，更多的是圖片、視頻、音頻、地理位置信息等多類型的數據，個性化數據占絕對多數。
三是處理速度快。數據處理遵循「1秒定律」，可從各種類型的數據中快速獲得高價值的信息。
四是價值密度低。以視頻為例，一小時的視頻，在不間斷的測試過程中，可能有用的數據僅僅只有一兩秒。
㈤ 大數據摩爾定律是什麼
在測量和測試計算機應用程序時，科學家和工程師每天都會收集大量的數據。例如，世界上最大的被稱為大型強子對撞機的粒子持有者對撞機每秒產生大約40太位元組的數據。波音公司的噴氣發動機每三十分鍾就會產生大約十兆兆位元組的數據。當一架Jumbo噴氣式飛機跨大西洋航行時，噴氣式飛機上的四台發動機可產生大約640太位元組的數據。如果將這種數據乘以每天平均2500次的航班，每天產生的數據量是驚人的;這就是所謂的大數據。
歡迎關注大數據周刊
從大量的數據中得出結論並獲得可操作的數據是一項艱巨的任務，大數據包含了這個問題。大數據帶來了新的數據處理方式。比如：深度的數據分析工具，數據集成工具，搜索工具，報告工具和維護工具，幫助處理大數據以從中獲取價值。
國際數據公司（IDC）對音樂，視頻文件和其他數據文件進行了分析。研究表明，系統產生的數據量每年翻一番。這是摩爾定律的一般概念。
摩爾定律如何改變？
當談到微處理器的力量時，可能會經歷摩爾定律的最後一個寬度。如果處理能力增加了，其他計算領域將不得不被檢查。從雲計算的能力來看，雲計算提供了可共享的資源，處理能力將提高創新能力，提高業務效率。
為了提高微處理器的處理能力，有一項新的技術正在研究和測試中。英特爾正在德克薩斯州測試光子學。 Photonics使用光線傳輸數據的速度更快，而且不會造成信號損失。這降低了電力的產生並使數據以光速傳播。這個實驗將有助於摩爾定律增加其過程流量和能力，重新開始一個新的循環。
摩爾定律之後，人工智慧又如何呢？
人工智慧已經成為下一個主流的技術範例，這使得人工智慧需要新的力量，因為摩爾定律和Dennard標度不夠強。摩爾定律指出，晶元特定區域的晶體管數量將在兩年後翻倍。在Dennard縮放中，保持晶體管所需的功率量正在縮小。
過去幾年來，英特爾已經減少了生產具有更密集和更小晶體管的新晶元的步伐。幾年前，小型晶體管效率的提高也停滯不前，這導致了功耗的問題。
AI如何處理更多的數據負載需要更強大的晶元。
科學家和大數據
大數據來源非常多。例如，在現實世界中收集的數據令人震驚地多樣化，並且負載巨大。 RF信號，振動，壓力，磁性，聲音，溫度，光線，電壓等的測量都以不同形式和高速度記錄。
摩爾定律在哪裡？
一個晶體管的物理長度和其他關鍵邏輯的重要維度將逐漸縮小到2028年，但3D概念已經占據了中心位置。與內存有關的行業已經接受了三維架構提升NAND快閃記憶體容量，緩解小型化的壓力。這並不意味著摩爾定律的結束。
結論
摩爾定律在處理大數據方面依然有效，但在使用3D架構方面更具經濟意義。人工智慧將在未來幾年帶來日益增長的處理能力需求，而晶元製造公司必須生產真正快速的處理器來處理工作量。
㈥ 大數據都需要學什麼
基礎階段：Linux、Docker、KVM、MySQL基礎、Oracle基礎、MongoDB、redis。hadoop maprece hdfs yarn：hadoop：Hadoop 概念、版本、歷史，HDFS工作原理，YARN介紹及組件介紹。
大數據存儲階段：hbase、hive、sqoop。
大數據架構設計階段：Flume分布式、Zookeeper、Kafka。
大數據實時計算階段：Mahout、Spark、storm。
大數據數據採集階段：Python、Scala。
大數據商業實戰階段：實操企業大數據處理業務場景，分析需求、解決方案實施，綜合技術實戰應用。
大數據(big data,mega data)，或稱巨量資料，指的是需要新處理模式才能具有更強的決策力、洞察力和流程優化能力的海量、高增長率和多樣化的信息資產。 在維克托·邁爾-舍恩伯格及肯尼斯·庫克耶編寫的《大數據時代》中大數據指不用隨機分析法(抽樣調查)這樣的捷徑，而採用所有數據進行分析處理。大數據的5V特點:Volume(大量)、Velocity(高速)、Variety(多樣)、Value(價值密度)、Veracity（真實性）。
大數據的5個「V」，或者說特點有五層面：
第一，數據體量巨大
從TB級別，躍升到PB級別。
第二，數據類型繁多
前文提到的網路日誌、視頻、圖片、地理位置信息等等。
第三，價值密度低
以視頻為例，連續不間斷監控過程中，可能有用的數據僅僅有一兩秒。
第四，處理速度快
1秒定律。最後這一點也是和傳統的數據挖掘技術有著本質的不同。業界將其歸納為4個「V」——Volume，Variety，Value，Velocity。
物聯網、雲計算、移動互聯網、車聯網、手機、平板電腦、PC以及遍布地球各個角落的各種各樣的感測器，無一不是數據來源或者承載的方式。
㈦ 簡述大數據與存儲器間的關系簡述中國集成電路技術的發展歷程。(答案要多點)
摘要 親，您好！大數據和存儲看似是兩個不相關的名詞。但是隨著大數據時代的來臨，大數據和存儲技術和有了聯系。大數據想要保留肯定離不開數據存儲，就算存放在資料庫，也離不開存儲技術。大數據存儲是將這些數據集持久化到計算機中。所以今天我們就來說說大數據存儲技術。
㈧ 大數據、高性能環境對存儲的需求
大數據、高性能環境對存儲的需求
一直以來，高性能計算的主要目的就是提高運算速度，來解決大規模科學計算和海量數據的處理問題。高性能計算每秒萬億次級的強大計算能力，使其成為石油、生物勘探、氣象預測、生命科學研究等領域的重要技術選擇。但是隨著數據量以及數據價值的不斷增長，金融、電信、互聯網等領域對高性能計算的需求不斷加大。隨著技術的發展，高性能計算系統的處理能力越來越強，任務的計算時間越來越短，對業務的價值不斷提高。但是，要想實現快速的任務計算處理，高性能計算系統的存儲能力是關鍵。因為在計算開始，要從存儲系統中讀取數據；計算結束時，要向存儲系統中寫入計算後的結果。如果這之間的讀取和寫入速度不匹配，不僅會拖延高性能項目的完成周期，低延遲還會嚴重影響高性能創造價值的能力。通常，高性能計算要求存儲系統能夠滿足性能、可擴展性要求，保護投資回報：吞吐量達到幾個甚至幾十個GB/s，容量能擴展至PB級；透明的訪問和數據共享；集中式的智能化管理，高性價比；可按需獨立擴展容量和性能等。中橋分析師在深圳華大基因研究院實地測試了EMC Isilon 產品在其HPC 環境下的運行情況，並記錄下其結果。
背景
高性能計算（High Performance Computing—HPC ）指通常使用很多處理器（作為單個機器的一部分）或者某一集群組織中幾台計算機（作為單個計算資源操作）的計算系統和環境。長期以來，高性能計算應用的主要領域是科學與工程計算，諸如高能物理、核爆炸模擬、氣象預報、石油勘探、地震預報、地球模擬、葯品研製、CAD 設計中的模擬與建模、流體力學的計算等。如今，像金融證券、政府信息化、電信行業、教育、企業、網路游戲等領域對HPC的需求也在迅猛增長。
高性能計算的應用
高性能計算有著廣泛的行業應用基礎，下面列舉幾個行業對高性能計算的應用需求：
1. 航空航天行業
在航空航天行業，隨著中國航空航天事業的快速發展，尤其是載人航天技術的巨大成功，我國科技人員對空氣動力學的數值模擬研究提出了越來越多的需求，常規的計算能力遠遠無法滿足復雜的大型飛行器設計所帶來的巨大需求。在航空航天企業的設計過程中，研究人員往往需要把飛機表面分成幾百萬甚至幾千萬個離散型的網格點，然後通過高性能計算平台求解方程，得出每個網格點的溫度、速度、摩擦力等各種參數，並模擬出連續型的曲線，進而為飛機設計提供寶貴的參考資料。對這類計算來說，網格點分割得越細密，計算結果的精確度也就越好。但是這些大規模設計計算問題不但單個作業計算量龐大，且需不斷調整、重復計算，因此高性能在航天航空行業中占據著舉足輕重的地位。
2. 能源行業
石油能源作為國家戰略資源，對於國家經濟、安全、軍事等各方面都具有非常重要的戰略意義。石油勘探承擔著尋找儲油構造、確定井位的重要任務。目前的主流做法就是人為的製造相應規模的地震（視勘探地區面積與深度不同），同時在相應的地層遍布若干震波收集點。由於不同材料的地質環境對地震波的影響是有規可循的，所以藉助這一點，通過相關的演算法，即可以通過對地震波的傳遞演算來「計算出」地質結構，從而找出我們所需要的能源位置。這種計算量無疑是異常龐大的，由於地震波法勘探收集的數據通常都以TB計，近年來海洋油氣勘探所採集的數據甚至開始向PB規模發展。為此，只有藉助高性能計算，才能在最短的時間內處理這些海量數據。
3. 生命科學
在現代生命科學領域，以數據為驅動力的改變正引發著巨大的變革。海量生物數據的分析將會增強疾病的實時監控能力和對潛在流行病做出反應的能力，但海量數據的挖掘、處理、存儲卻面臨著前所未有的挑戰。特別是隨著新一代測序技術的迅猛發展，基因組學研究產生的海量數據正以每12- 18個月10倍的速度增長，已遠超越著名的摩爾定律，這使得眾多生物企業和科研機構面臨強大的數據分析和存儲需求。
在國內，生物基因行業的發展勢頭也不可小覷。2011年1 月30日，國家發改委已批復同意深圳依託華大基因研究院組建國家基因庫，這是中國首次建立國家級基因庫，首期投資為1500萬元。深圳國家基因庫是一個服務於國家戰略需求的國家級公益性創新科研及產業基礎設施建設項目，是目前我國唯一一個獲批籌建的國家級基因庫，是全球僅次美國、日本和歐洲三個國家級基因庫之後的世界第四個國家級基因庫。現在，該國家基因庫已經收集了100萬GB的生物數據，包含基因組、轉錄組、蛋白質組、代謝組及表型的數據，同時也積累了約四十萬份生物樣本。預計該基因庫最終將達到10億GB級別的數據容量。深圳國家基因庫和國際上已有的基因庫相比，它的特點是既有「濕庫」也有「干庫」：前者把千萬種實體的動植物、微生物和人類組織細胞等資源和樣本納入網路；後者匯集巨量的核酸、基因表達、蛋白、表型等多類數據信息，成為「大數據」生物學時代研究生物生長發育、疾病、衰老、死亡以及向產業化推廣的利器。
4. 金融行業
金融說到底就是數據。在金融市場中，擁有速度就意味著更高的生產力和更多的市場份額。金融計算模型相當復雜，數據收集越多，計算結果越精確。金融分析師都迫切地需要一個能模擬復雜現實環境，並進行精確處理的金融計算程序，以便對每個投資產品及時地評估投資收益，衡量投資風險，以期獲得更好的投資回報。也正因此，高性能計算已經越來越多地應用到全球資本市場，以期在最短時間內實現對市場的動態響應與轉換。
5. 氣象預報
世紀二十年代初，天氣預報方程已基本建立。但只有在計算機出現以後，數值天氣預報才成為可能。而在使用並行計算機系統之前，由於受處理能力的限制，只能做到24小時天氣預報。高性能計算是解決數值預報中大規模科學計算必要手段。採用高性能計算技術，可以從提高解析度來提高預報精度。
6. 游戲動漫和影視產業
隨著3D、4D電影的興起和高清動漫趨熱，由高性能計算（HPC ）集群構成的「渲染農場」已經成為三維動畫、影視特效公司不可或缺的生產工具。動漫渲染基於一套完整的程序進行計算，從而通過模型、光線、材質、陰影等元素的組合設定，將動漫設計轉化為具體圖像。以《玩具總動員》為例，如果僅使用單台工作站（單一處理器）進行動畫渲染，這部長達77分鍾的影片的渲染時間將會是43年，而採用集群渲染系統，只需約80天。
㈨ 大數據究竟是什麼大數據有哪些技術呢
大數據是指無法在一定時間內用常規軟體工具對其內容進行抓取、管理和處理的數據集合。大數據技術是指從各種各樣類型的數據中，快速獲得有價值信息的能力。適用於大數據的技術，包括大規模並行處理(MPP)資料庫，數據挖掘電網，分布式文件系統，分布式資料庫，雲計算平台，互聯網，和可擴展的存儲系統。