⑴ 在新數據時代的今天,浪潮存儲應對的全新挑戰聚集在哪些方面
浪潮存儲對容量要求極大,以清華大學RUSH腦科學研究為例,通過28台2500萬像素的高清攝像機在3天不間斷觀測大腦活動變化,每小時就能夠產生72TB數據,3天實驗周期可以產生5PB數據。與過去相比,當前越來越多應用所產生的數據量提升了10-100倍,海量數據的產生使得越來越多用戶對於存儲容量有著極大的需求。
對於數據存儲性能的要求越來越高,比如健康碼,每天有幾十億次的查詢,需要底層存儲具備足夠強大的性能,來滿足上層應用的快速響應需求;對於數據的共享、使用和管理需要更加順暢和便捷。隨著5G、物聯網、AI等數字技術加速普及與商用,數據的產生量、產生方式、處理方式正在發生巨大變化,未來可能面對的不再是數據沼澤,而是數據「死海」,如果存儲不能很好地將數據共享和管理起來,將會給上層智慧應用帶來極大的挑戰。
⑵ 大數據時代 安防行業如何保證數據存儲安全
作為大數據時代海量數據的來源之一,安防視頻監控產生了巨大的信息數據。特別是近幾年隨著平安城市、智能交通、智能樓宇等行業的快速發展,大集成、大聯網推動安防行業進入大數據時代。
安防行業大數據的存在已經被越來越多的人熟知,特別是安防行業海量的非結構化視頻數據,以及飛速增長的特徵數據(卡口過車數據、人像抓拍數據、異常行為數據等),安防行業的數據存儲、數據安全等一系列問題,吸引著人們對安防行業的關注。
大數據引發安防行業的數據存儲、數據安全問題
對於安防行業,監控技術如今正面臨日新月異的變革,模擬視頻監控正在向IP網路監控轉變,巨大轉變的同時對數據存儲、數據安全性提出了更高的要求。我們探討數據安全,包括產品本身的物理安全和產生數據的安全。所以,大數據時代引發安防行業數據存儲、數據安全的問題有以下幾點:
第一、基礎設備的風險:包括監控中心的存儲設備、伺服器和前端節點設備的安全性、網路設備的安全性、傳輸線纜的安全性等。設備的安全可靠是整個大數據安防系統安全運行的基礎。
第二、信息存取的風險:包括用戶非法訪問、數據丟失、數據被篡改等。系統信息的安全,主要運用各種加密技術、存儲技術、及備份方案來達到系統信息的安全。
第三、信息在網路上傳輸的風險:包括視頻信息、錄像數據信息、用戶信息等在傳輸過程中保密性、完整性的保障以及傳輸鏈路上的節點設備的安全。另外還包括前端採集設備、社會監控資源接入公安監控專網的安全。
第四、系統運行的風險:包括接入設備的識別和認證、設備運行故障、軟體病毒、惡意代碼、以及設備控制的優先順序調度等。系統運行時的風險控制主要依靠視頻監控軟體平台來保障,該軟體平台可以完成設備管理、故障監控、訪問控制、用戶管理、鑒權機制等一系列的功能來保障整個系統的安全運行。
大數據催生安防行業存儲方式的變革
由於國內視頻監控市場每年都在以超過20%的速度增長,隨著平安城市等大型聯網監控項目的普遍建設,高清IP監控產品得到廣泛應用,系統點位容量和行業需求不斷激增,越來越多的用戶認識到安防監控平台軟體是整個系統綜合實力的重要表現。
在功能上:絕大多數平台軟體都具備視頻預覽、錄像回放、設備管理、地圖顯示等功能。
在標准上:主流平台軟體均支持業界成熟標准,除了通過私有協議兼容多種主流品牌的設備接入外,ONVIF和GB/T28181已經成為平台兼容前端以及不同品牌平台互聯的主要依據。
在規模上:雖然大多宣稱支持上萬路攝像頭的大型組網,但由於各家軟體內部底層設計和存儲轉發轉碼等技術水平差異,還需要實際應用案例和運營狀況的事實支撐。
毋庸置疑,監控管理平台軟體已經樹立了在系統中的核心價值,並得到從用戶、工程商到廠商的廣泛認可,特別是以IP監控和行業解決方案為市場戰略的今天,很多硬體生產廠商紛紛開始重視平台軟體產品的配套,或合作或自研,以提高前後端產品的一致性和完整性。
治安監控平台軟體面臨尷尬境遇
從監控技術的發展歷史來看,治安監控大致經歷三代系統的發展歷程:第一代是模擬閉路電視監控(CCTV)系統,第二代是數字化監控系統,第三代是網路視頻監控系統。今天我們談亂的網路視頻監控系統。
談及系統管理,首先不得不先談談視頻監控系統產品的市場現狀分析及預測。目前,視頻監控產品所佔安防市場比例大約在40~50%之間。傳統國外監控企業產品在市場中的份額不斷縮減,民族品牌的數字化監控產品逐步占據市場。而僅僅幾年的光景,網路型的監控產品發展過速,網路存儲設備已在悄然改變著DVR的市場應用狀況。
隨著城市報警監控網路建設和平安城市建設的深入,平台軟體技術加速發展,IT行業中的實力企業大舉進入安防行業。安防系統智能化、集成化的應用、大安防理念的推進,導致安防服務的內容和形式都發生了變化,圍繞終端用戶的個性化解決方案的服務理念也被更多企業認知和實踐,安防行業是服務行業的定位和服務功能的作用越來越清晰。這一切都強烈沖擊著傳統安防應用格局和方式,IT行業的實力企業湧入安防,也快速帶動了安防行業的革新的變化,從而導致市場形態的巨大變化。
而在全數字化的浪潮下,治安監控管理平台軟體除了最基本的音視頻操作功能以外,面臨的主要問題是要對大型網路環境下分散場所的監控設備統一管理,對統一系統不同類型的視頻採集設備、報警設備和門禁設備進行統一管理,對不同部門不同許可權用戶不同業務需求進行統一管理,構建面向應用服務的綜合管理平台軟體。
重要性不言而喻,但在國內安防行業中卻面臨著認知度不足、市場規模不大、價值無法充分體現等問題。近年來,平台軟體雖然也有較大發展,但跟整個行業市場相比,還存在一定差距,主要體現在:
一、缺乏持續健康的生存環境。重硬體輕軟體,很多廠商和工程商都把軟體作為硬體銷售的配套附屬產品,基本定位於能用就行。在產品規劃和技術突破上認識不足,缺乏長期投入;對用戶需求響應不及時,缺乏內在動力。
二、平台軟體為項目而主,難以產業化。很多專業軟體公司都依賴大型項目,以滿足用戶需求為核心,通過投入大量研發資源不斷迭代開發,打造為該項目量身定做的軟體系統,形成技術壁壘和封閉壟斷,同類產品難以互通和替換。
三、對行業化有心無力,經驗不足。由於大多數安防廠商從硬體產品起步,軟體基因匱乏,從頂層設計到模塊化開發,缺乏統籌規劃和項目管理,所以只能負責視頻接入轉發存儲部分的軟體開發,由第三方軟體開發公司負責業務功能。
四、長期目標不明確,軟體質量不高。平台軟體的產品質量依賴以下因素:高效可靠的開發流程保障、對行業業務的深刻理解、從用戶角度設計產品應用的易用性和可用性。目前安防軟體企業水平參差不齊,雖然有一些針對硬體和軟體整體集成實施交付的企業,但應用范圍及規模化程度都不大,高水平的專業平台提供商數量不多。
基於以上原因,目前市場上的綜合管理平台軟體,要麼功能貌似很多但不實用,要麼架構復雜,成本居高不下,要麼運行所需環境簡單,無法提供健壯的擴展性,要麼操作復雜難以上手,凡此種種,不一而足。
視頻監控管理平台的市場發展趨勢
從宏觀上看,安防平台軟體未來的兩大發展方向,一是針對安保監控內部的橫向集成,將視頻監控、報警處理、門禁控制、地理信息等系統資源統一管理;二是安保系統與用戶其他其他業務系統的縱向集成,擴大監控在安全生產、社會治安等各個層面的應用,提高安全管理業務的水平。
具體看,攝像頭數量多、監控區域范圍大、系統架構復雜、業務面寬等正成為軟體平檯面臨的主要問題,帶來如下趨勢:
趨勢一、聯網共享。不僅是單一系統內的攝像機頭數量激增,而且多個系統之間的圖像信息也需要互通復用。
趨勢二:兼容開放。平台軟體與監控設備特別是攝像頭的兼容性是長期存在的矛盾,由於沒有統一標准,現有的產品專用或是軟硬體被綁定,不能實現兼容。
趨勢四:智能應用。隨著高清視頻技術的成熟和網路鏈路建設的加速,視頻監控已經從看得發展到看得清,下一步就是看得懂。
趨勢五:人性化交互。視頻監控軟體面對的是許多不熟悉軟體甚至不太懂計算機的安保人員,對專業術語、界面結構及菜單布置的熟悉掌握有一定難度,設計不合理的軟體操作不符合用戶習慣,影響使用情緒,難以得到用戶認同。
趨勢六:安防行業化漸漸的發展,使安防系統的使用也朝著業務部門多元化、需求多樣化、管理機構的多層次,必須選用支持多業務應用、靈活的系統架構、易於管理維護的管理平台軟體來運行和操作,不同的行業其應用軟體也有較大的區別。安防軟體逐漸的大多數業內人士認可,未來發展走向融合、開放。
以上由物聯傳媒轉載,如有侵權聯系刪除
⑶ 大數據時代信息安全隱患
大數據時代信息安全隱患
近年來,隨著信息數據的爆炸式增長,數據的財富轉換率也出現了大幅度的增長。這就造成了一個大數據時代的背景。很多人都把數據的增長看做了未來最重要的財富。但是數據的大幅增長,給越來越多的人敲響了警鍾:大數據時代的數據安全十分的脆弱!沒有安全的數據是缺乏足夠財富支撐的,因此很多企業開始著手建立自己的新型數據安全模式,雖然這個過程顯得是十分的殘酷艱難,但是一切都勢在必行,刻不容緩。 2012年很多國際IT巨頭都推出了自己的雲服務,許多企業都購買了公有雲,或是建立了私有雲。
雲計算時代的到來促唯備攜進了網路數據的高速發展,在過去的三年裡增長的數據甚至超越了人類幾百年的數據增長。這些數據的出現意味著巨大的財富,但是數據的非結構化和安全隱患不斷增加,讓這些數據的價值沒能夠得到充分的發掘。一方面由於現有技術對於信息開發的成本過大,限制了數據的價值,另一方面由於數據安全得不到足夠的保證,也阻礙了數據財富化的進程。數據開發成本的優化是一個緩慢的過程,人們更希望能夠得到安全保護的同時,緩慢的去開發數據價值,這也把大數據時代的數據安全問題推到了風頭浪尖,這是對於數據安全開發者的一次嚴峻考驗。 大數據時代的數據安全怎麼做?對於這個問題有著不同的理解。有的人認為需要在原有安全的基礎上加入新的的網路元素,繼續沿用既有的數據安全思路,穩中求進;有的人認為需要重新構建全新的數據安全模式,打破原有的桎梏,重組現有技術構成,建立全新的數據安全模式。
這兩種看法都可以看做一種對於大數據時代特性的適應,很難說孰優孰劣,只能說大家的發展路線不同,思路不同。 主張在原有安全基礎上發展的人們認為,原有的端點數據安全模式十分的穩定,具有較長的運用經驗,安全可靠高效。現在的雲端技術對於數據安全的要求主要體現在網路安全的應對上。對於傳統的端點安全技術來說,有多種方式可以實現最終的安全。面對現有的大數據特性,需要在一些方面做出調整。一般來說有以下的幾個方面需要改進。
第一,大數據時代的數據結構化。數據結構化對於數據安全和開發有著非常重要的作用。大數據時代的數據非常的繁雜,其數量非常的驚人,對於很多企業來說,怎樣保證這些信息數據在有效利用之前的安全是一個十分嚴肅的問題。結構化的數據便於管理和加密,更便於處理和分類,能夠有效的智能分辨非法入侵數據,保證數據的安全。數據結構化雖然不能夠徹底改變數據安全的格局,但是能夠加快數據安全系統的處理效率。未來數據標准化,結構化是一個大趨勢,不管是怎樣的數據安全模式都希望自己的數據更加的標准。
第二,網路層的安全策略是端點數據安全的重點加固對象。常規的數據安全模式往往喜歡分層構建。這也是數據安全的常規做法。現有的端點安全方式對於網路層的安全防護並不完美。一方面是大數據時代的信息爆炸,導致網端的非法入侵次數急劇增長,這對於網路層的考驗十分的嚴峻,另一方面由於雲計算的大趨勢,現在的網路數據威脅方式和方法越來越難以預測辨識,這給現有的端點數據安全模式造成了巨大的壓力。在未來,網路層安全應當作為重點發展的一個層面。在加強網路層數據辨識智能化,結構化的基礎上加上於本地系統的相互監控協調,同時杜絕非常態數據的運行,這樣就能夠在網路層構築屬於大數據時代的全面安全堡壘,完善自身的缺陷。
第三,本地策略的升級。對於端點數據安全來說已經具備了成熟的本地安全防護系統,但是由於思路的轉化,現有的端點數據安全系統有指伏一定認識上的偏差,需要進行及時的調整。由於大數據時代的數據財富化導致了大量的信息泄露事件,而這些泄露事件中,來自內部的威脅更大。所以在本地策略的構建上需要加入對於內部管理的監控,監管手段。用純數據的模式來避免由於人為原因造成的數據流失,信息泄露。由這一點出發我們可以預想到在未來的數據安全模式中,管理者的角色權重逐漸分化,數據本身的自我監控和智能管理將代替一大部分人為的操作。這對於大部分企業來說都是能夠減少損失和成本的大事情,值得引起大家的關注和思考。
在本地安全策略的構建過程中還要加強與各個環節的協調。由於現在的數據處理方式往往會依託與網路,所以在數據的處理過程中會出現大量的數據調用,在滾拆調用過程中就容易出現很大的安全威脅。這個時候如果能夠把本地和網路的鏈接做的更細膩,完善緩存機制和儲存規則,就能夠有效保證數據源的純潔,從根本上杜絕數據的安全威脅。本地數據安全策略還有很多需要注意的問題,也有很多還沒有發現的隱患,這些都需要在完善自有系統的基礎上,繼續開發。
第四,數據存儲的問題。在傳統端點的數據安全中,數據存儲作為非法入侵的最後一站,被業界人士高度的重視,對於數據存儲建立了全面完善的防護措施,這些非常值得借鑒,但是還要有進一步的完善。這里的完善主要是數據存儲隔離與調用之間的數據邏輯關系策劃。這同樣是為了適應現在的數據模式。 經過上面幾個問題的針對性完善,就能夠開發出相對更加適應現在大數據時代應用的數據安全模式。只是在開發力度上的不同導致了現有的端點安全專家們很難深入的調整自己的方法,導致現在市場上存在一批似是而非的數據安全方案,這應該是發展的一個過程吧! 對於想要重新建立數據大時代數據安全的人們來說,他們面對的不是細節的問題,而是整體布局的問題。
想要針對現有的大數據背景,開發出屬於下一代的虛擬數據安全方案,絕對是一種創新性的變革,對於未來數據安全的發展具有革命性的作用。因為,針對大數據時代設計的安全方案應該是在虛擬化、移動化的基礎上進行的深入開發,而虛擬化安全和移動化網路是未來發展的方向,這樣以來,從方向上擺正了自己的位置,具有更快的發展速度和更遠的發展空間。但是想要做到這一步需要花費的精力也不是每個團隊都能夠付出的。以泰然神州為代表的一些具有前瞻性的企業已經開始了這方面的嘗試,並取得了不錯的成果。泰然神州在虛擬化、移動化和信息安全上做出了傑出的貢獻。他們在考慮到虛擬化數據安全問題的時候,就是從整體入手,解決現有的痼疾,打造出全新一代數據安全方案。 在未來的虛擬化數據安全方案中,需要從全面的數據安全系統入手,建立合理的邏輯監管程序,全面數據處理模型,標准化信息配置,同時加強數據的監管,人員監管與外部智能辨識,做好各個環節的相互支撐與防禦。虛擬化數據安全的核心是一條貫穿整個安全體系的數據通道,這條渠道需要通過分層管理,交叉監控,實現絕對的隱蔽和安全,同時合理的邏輯關系讓整條數據通道變得更加合理和快捷。虛擬化數據安全更加註重客觀的數據邏輯,盡量避免由於人為操作造成的數據安全隱患,杜絕數據泄露。
在大部分人的眼中數據泄露一直是個非常難纏的項目,但是在泰然神州新開發的產品中就重點針對了這個項目。他們通過建立監控網路完成對數據流的監控和控制,更多的避免了由於內部和外部原因造成的數據泄露,同時加強了對於既定存儲數據的保護措施,很好的避免了數據的泄露。 虛擬化數據安全更加註重對於智能的運用。數據智能處理一直是安全領域最鍾愛的一門技術,能夠強化各個環節數據智能化,加強數據的辨識智能,處理智能對於數據安全的發展具有很強的促進作用。虛擬化數據安全未來發展的核心要素就是實現純數據監控的完美形態,讓數據管理數據安全,同時為所有用戶提供可靠的數據埠,實現最終的數據轉換目標。結合端點數據安全發展的歷程,我們看得出數據本身具有很強的適應性,如果善加疏導,就能夠整合出意想不到的效果。
智能數據一直是泰然神州研發的一個重要目標,為了能夠在大數據時代發揮自己的智能數據優勢,泰然神州在自己的產品中加入了智能數據的元素,讓泰然神州新一代數據堡機完美的呈現了各個層面的技術高度和安全高度。 不管是傳統的改進,還是重新建立,對於大數據時代的數據安全發展都具有一定的促進意義,只要進一步發展下去,就能夠實現預想的目標。大數據時代已經到來,數據安全行業是所有行業最先起飛的一個,對於業內人士來說,這不僅僅是一次機會,更是一次挑戰。只有堅持走在最前列的人,才能夠最終獲得勝利。
同時,整個世界環境內都開始針對網路信息數據做出適當的調整規范,這必然使得未來的數據安全發展得到極大的支持和鼓勵,這對於所有從業人士來說都是一個展示自己團隊才華的舞台,一個大數據時代的舞台!
⑷ 大數據時代的安防數據存儲安全
大數據時代的安防數據存儲安全
近幾年隨著平安城市、智能交通、智能樓宇等行業的快速發展,大集成、大聯網推動安防行業進入了大數據時代。安防行業大數據的存在已經被越來越多的人熟知,特別是安防行業海量的非結構化視頻數據,以及飛速增長的特徵數據(卡口過車數據、人像抓拍數據、異常行為數據等),帶動了大數據的數據安全一系列問題,吸引著行業的關注。
大數據引發監控數據安全性問題突出
大數據的本質是系統通過處理採集到的所有數據,去提取其特徵和共性的信息。通過大數據的處理使得所有的數據都有價值。通過大數據的處理,把傳統認為沒有價值的信息也能夠產生非常有價值的信息,這就叫做數據挖掘。同樣的數據擺在我們面前不同的挖掘方法,不同的挖掘目標可以為各種各樣的業務的應用產生有價值的信息。對於安防行業,監控技術如今正面臨日新月異的變革,模擬視頻監控正在向IP網路監控轉變,巨大轉變的同時對安全性也提出了更高的要求。我們探討數據安全,包括產品本身的物理安全和產生數據的安全。所以,大數據時代引發監控數據安全性問題有以下幾點:
1、基礎設備的風險:包括監控中心的存儲設備、伺服器和前端節點設備的安全性、網路設備的安全性、傳輸線纜的安全性等。設備的安全可靠是整個大數據安防系統安全運行的基礎。
2、信息存取的風險:包括用戶非法訪問、數據丟失、數據被篡改等。系統信息的安全,主要運用各種加密技術、存儲技術、及備份方案來達到系統信息的安全。
3、信息在網路上傳輸的風險:包括視頻信息、錄像數據信息、用戶信息等在傳輸過程中保密性、完整性的保障以及傳輸鏈路上的節點設備的安全。另外還包括前端採集設備、社會監控資源接入公安監控專網的安全。
4、系統運行的風險:包括接入設備的識別和認證、設備運行故障、軟體病毒、惡意代碼、以及設備控制的優先順序調度等。系統運行時的風險控制主要依靠視頻監控軟體平台來保障,該軟體平台可以完成設備管理、故障監控、訪問控制、用戶管理、鑒權機制等一系列的功能來保障整個系統的安全運行。
基於以上4點,從存儲設備的角度我們主要談及前面兩點。
大數據也催生監控存儲方式變革
在一個時代下,必然會發生諸多變革。
視頻監控的存儲技術和介質從VCR模擬存儲、DVR數字存儲,逐漸向NVR、NAS、SAN等網路存儲發展。而在存儲方式上,主要有集中式存儲和分布式存儲兩種。大數據意味著海量的數據,也意味著更復雜、更敏感的數據,這些數據會吸引更多的潛在攻擊者。為此,我們關注點是,大數據下的信息安全問題將衍生新的機遇,提升安防的價值。
隨著安防形勢的復雜多變和大數據時代的來臨,對視頻錄像文件分析的需求越來越多。視頻監控系統中也越來越多的使用了高級的數據存儲設備和系統,例如專業的磁碟陣列系統等等。同理,安防行業使用這些專業存儲設備時,需要充分了解這些軟硬體的特性,而不要僅僅把它們當作超級外接大硬碟來使用。在系統設計和實施過程中可以充分利用這些設備中自帶的一些數據保護軟體來保護自己的數據。常用和流行的數據安全保護技術主要有以下七種:
磁碟陣列:磁碟陣列是指把多個類型、容量、介面甚至品牌一致的專用磁碟或普通硬碟連成一個陣列,使其以更快的速度、准確、安全的方式讀寫磁碟數據,從而加快數據讀取速度、提高數據保存的安全性。
SAN:SAN允許伺服器在共享存儲裝置的同時仍能高速傳送數據。這一方案具有帶寬高、可用性高、容錯能力強的優點,而且它可以輕松升級,容易管理,有助於改善整個系統的總體成本狀況。我們推薦FCSAN方案,它能為大數據時代的視頻監控,相較於IPSAN方案,大幅減少存儲設備台數,從而大幅降低成本,在數據安全方面由於自身設備超高的穩定性和性能來得以保障。
數據備份:備份管理包括數據備份的計劃,自動操作,備份日誌的保存。
雙機容錯:雙機容錯的目的在於保證系統數據和服務的在線性,即當某一系統發生故障時,仍然能夠正常的向網路系統提供數據和服務,使得系統不至於停頓,雙機容錯的目的在於保證數據不丟失和系統不停機。
NAS解決方案通常配置為作為文件服務的設備,由工作站或伺服器通過網路協議和應用程序來進行文件訪問,大多數NAS鏈接在工作站客戶機和NAS文件共享設備之間進行。這些鏈接依賴於企業的網路基礎設施來正常運行;NAS提供視頻監控系統後期視頻文件批量處理分析的基本可能。
數據遷移:由在線存儲設備和離線存儲設備共同構成一個協調工作的存儲系統,該系統在在線存儲和離線存儲設備間動態的管理數據,使得訪問頻率高的數據存放於性能較高的在線存儲設備中,而訪問頻率低的數據存放於較為廉價的離線存儲設備中;視頻錄像的歸檔可以充分利用高級存儲設備的數據遷移手段;分層存儲有效降低存儲系統的整體成本。
異地容災:以異地實時備份為基礎的、高效的、可靠的遠程數據存儲,在各單位的IT系統中,必然有核心部分,通常稱之為生產中心。往往給生產中心配備一個備份中心,改備份中心是遠程的,並且在生產中心的內部已經實施了各種各樣的數據保護。不管怎麼保護,當火災、地震這種災難發生時,一旦生產中心癱瘓了,備份中心會接管生產,繼續提供服務;視頻監控的多中心配置越來越多,各個中心的系統和數據容災應該借鑒IT的容災技術考慮。
結束語
大數據是繼雲計算、物聯網之後信息產業當前科技創新、產業政策及國家安全領域的又一次知識新增長點。在大數據的背景下信息安全面臨著很多的挑戰,特別是現階段視頻監控已有的信息安全手段已經不能滿足大數據時代的信息安全的實際要求,因此研究大數據時代視頻監控所面臨的信息安全問題具有重要意義。
以上是小編為大家分享的關於大數據時代的安防數據存儲安全的相關內容,更多信息可以關注環球青藤分享更多干貨
⑸ 大數據時代下的三種存儲架構
大數據時代下的三種存儲架構_數據分析師考試
大數據時代,移動互聯、社交網路、數據分析、雲服務等應用的迅速普及,對數據中心提出革命性的需求,存儲基礎架構已經成為IT核心之一。政府、軍隊軍工、科研院所、航空航天、大型商業連鎖、醫療、金融、新媒體、廣電等各個領域新興應用層出不窮。數據的價值日益凸顯,數據已經成為不可或缺的資產。作為數據載體和驅動力量,存儲系統成為大數據基礎架構中最為關鍵的核心。
傳統的數據中心無論是在性能、效率,還是在投資收益、安全,已經遠遠不能滿足新興應用的需求,數據中心業務急需新型大數據處理中心來支撐。除了傳統的高可靠、高冗餘、綠色節能之外,新型的大數據中心還需具備虛擬化、模塊化、彈性擴展、自動化等一系列特徵,才能滿足具備大數據特徵的應用需求。這些史無前例的需求,讓存儲系統的架構和功能都發生了前所未有的變化。
基於大數據應用需求,「應用定義存儲」概念被提出。存儲系統作為數據中心最核心的數據基礎,不再僅是傳統分散的、單一的底層設備。除了要具備高性能、高安全、高可靠等特徵之外,還要有虛擬化、並行分布、自動分層、彈性擴展、異構資源整合、全局緩存加速等多方面的特點,才能滿足具備大數據特徵的業務應用需求。
尤其在雲安防概念被熱炒的時代,隨著高清技術的普及,720P、1080P隨處可見,智能和高清的雙向需求、動輒500W、800W甚至上千萬更高解析度的攝像機面市,大數據對存儲設備的容量、讀寫性能、可靠性、擴展性等都提出了更高的要求,需要充分考慮功能集成度、數據安全性、數據穩定性,系統可擴展性、性能及成本各方面因素。
目前市場上的存儲架構如下:
(1)基於嵌入式架構的存儲系統
節點NVR架構主要面向小型高清監控系統,高清前端數量一般在幾十路以內。系統建設中沒有大型的存儲監控中心機房,存儲容量相對較小,用戶體驗度、系統功能集成度要求較高。在市場應用層面,超市、店鋪、小型企業、政法行業中基本管理單元等應用較為廣泛。
(2)基於X86架構的存儲系統
平台SAN架構主要面向中大型高清監控系統,前端路數成百上千甚至上萬。一般多採用IPSAN或FCSAN搭建高清視頻存儲系統。作為監控平台的重要組成部分,前端監控數據通過錄像存儲管理模塊存儲到SAN中。
此種架構接入高清前端路數相對節點NVR有了較高提升,具備快捷便利的可擴展性,技術成熟。對於IPSAN而言,雖然在ISCSI環節數據並發讀寫傳輸速率有所消耗,但其憑借擴展性良好、硬體平台通用、海量數據可充分共享等優點,仍然得到很多客戶的青睞。FCSAN在行業用戶、封閉存儲系統中應用較多,比如縣級或地級市高清監控項目,大數據量的並發讀寫對千兆網路交換提出了較大的挑戰,但應用FCSAN構建相對獨立的存儲子系統,可以有效解決上述問題。
面對視頻監控系統大文件、隨機讀寫的特點,平台SAN架構系統不同存儲單元之間的數據共享冗餘方面還有待提高;從高性能伺服器轉發視頻數據到存儲空間的策略,從系統架構而言也增加了隱患故障點、ISCSI帶寬瓶頸導致無法充分利用硬體數據並發性能、接入前端數據較少。上述問題催生了平台NVR架構解決方案。
該方案在系統架構上省去了存儲伺服器,消除了上文提到的性能瓶頸和單點故障隱患。大幅度提高存儲系統的寫入和檢索速度;同時也徹底消除了傳統文件系統由於供電和網路的不穩定帶來的文件系統損壞等問題。
平台NVR中存儲的數據可同時供多個客戶端隨時查詢,點播,當用戶需要查看多個已保存的視頻監控數據時,可通過授權的視頻監控客戶端直接查詢並點播相應位置的視頻監控數據進行歷史圖像的查看。由於數據管理伺服器具有監控系統所有監控點的錄像文件的索引,因此通過平台CMS授權,視頻監控客戶端可以查詢並點播整個監控系統上所有監控點的數據,這個過程對用戶而言也是透明的。
(3)基於雲技術的存儲方案
當前,安防行業可謂「雲」山「物」罩。隨著視頻監控的高清化和網路化,存儲和管理的視頻數據量已有海量之勢,雲存儲技術是突破IP高清監控存儲瓶頸的重要手段。雲存儲作為一種服務,在未來安防監控行業有著客觀的應用前景。
與傳統存儲設備不同,雲存儲不僅是一個硬體,而是一個由網路設備、存儲設備、伺服器、軟體、接入網路、用戶訪問介面以及客戶端程序等多個部分構成的復雜系統。該系統以存儲設備為核心,通過應用層軟體對外提供數據存儲和業務服務。
一般分為存儲層、基礎管理層、應用介面層以及訪問層。存儲層是雲存儲系統的基礎,由存儲設備(滿足FC協議、iSCSI協議、NAS協議等)構成。基礎管理層是雲存儲系統的核心,其擔負著存儲設備間協同工作,數據加密,分發以及容災備份等工作。應用介面層是系統中根據用戶需求來開發的部分,根據不同的業務類型,可以開發出不同的應用服務介面。訪問層指授權用戶通過應用介面來登錄、享受雲服務。其主要優勢在於:硬體冗餘、節能環保、系統升級不會影響存儲服務、海量並行擴容、強大的負載均衡功能、統一管理、統一向外提供服務,管理效率高,雲存儲系統從系統架構、文件結構、高速緩存等方面入手,針對監控應用進行了優化設計。數據傳輸可採用流方式,底層採用突破傳統文件系統限制的流媒體數據結構,大幅提高了系統性能。
高清監控存儲是一種大碼流多並發寫為主的存儲應用,對性能、並發性和穩定性等方面有很高的要求。該存儲解決方案採用獨特的大緩存順序化演算法,把多路隨機並發訪問變為順序訪問,解決了硬碟磁頭因頻繁尋道而導致的性能迅速下降和硬碟壽命縮短的問題。
針對系統中會產生PB級海量監控數據,存儲設備的數量達數十台上百台,因此管理方式的科學高效顯得十分重要。雲存儲可提供基於集群管理技術的多設備集中管理工具,具有設備集中監控、集群管理、系統軟硬體運行狀態的監控、主動報警,圖像化系統檢測等功能。在海量視頻存儲檢索應用中,檢索性能尤為重要。傳統文件系統中,文件檢索採用的是「目錄-》子目錄-》文件-》定位」的檢索步驟,在海量數據的高清視頻監控,目錄和文件數量十分可觀,這種檢索模式的效率就會大打折扣。採用序號文件定位可以有效解決該問題。
雲存儲可以提供非常高的的系統冗餘和安全性。當在線存儲系統出現故障後,熱備機可以立即接替服務,當故障恢復時,服務和數據回遷;若故障機數據需要調用,可以將故障機的磁碟插入到冷備機中,實現所有數據的立即可用。
對於高清監控系統,隨著監控前端的增加和存儲時間的延長,擴展能力十分重要。市場中已有友商可提供單純針對容量的擴展櫃擴展模式和性能容量同步線性擴展的堆疊擴展模式。
雲存儲系統除上述優點之外,在平台對接整合、業務流程梳理、視頻數據智能分析深度挖掘及成本方面都將面臨挑戰。承建大型系統、構建雲存儲的商業模式也亟待創新。受限於寬頻網路、web2.0技術、應用存儲技術、文件系統、P2P、數據壓縮、CDN技術、虛擬化技術等的發展,未來雲存儲還有很長的路要走。
以上是小編為大家分享的關於大數據時代下的三種存儲架構的相關內容,更多信息可以關注環球青藤分享更多干貨
⑹ 科普 | 大數據時代,還有隱私可言嗎
個人信息保護研究
大數據時代
你的隱私真的
被「隱藏」了嗎?
或者是這樣的情況,由於各種在網路上的爭執,普通用戶的各種社交賬號,甚至是家庭住址、身份信息被扒出並公之於眾,隨後導致各種惡劣的行為發生。
這些情況可謂是細思極恐,大數據時代為信息查找搜集帶來便利的同時,是否也給我們的生活帶來了更多困擾呢?
國內cookie隱私第一案
2013年5月6日,朱燁向南京市鼓樓區人民法院提起訴訟,起訴網路公司侵犯其個人隱私。
朱燁訴稱,利用網路網站對相關關鍵詞進行搜索後,會在特定界面出現與鍵入的關鍵詞高度相關的廣告。如在網路搜索引擎搜索「隆胸」、「減肥」、「人工流產」關鍵詞後,再進入「500看視」和「4816」網站時,會分別出現與減肥、流產和隆胸相關的商業廣告。
朱燁認為,網路公司利用網路技術對其線上行為進行追蹤,並將其行為偏好、生活需求等信息披露給相關商業網站,進行有針對性的廣告投放的行為,不僅違反了知情同意的規則,也侵害了其隱私權。朱燁請求法院判令網路公司立即停止侵害。
一審中,南京市鼓樓區人民法院支持了朱燁的訴訟請求,一審法院認為,網路網訊公司利用cookie技術收集朱燁信息,並在其不知情的情形下進行商業利用的行為,侵犯了朱燁的隱私權。一審宣判後,網路公司向南京中院提起上訴。
二審法院終審判定網路網訊公司的個性化推薦行為 不構成 對朱燁隱私權的侵犯。
裁判理由如下:首先,網路個性化推薦服務 並未識別出用戶的真實身份 ,其收集和推送的信息終端是瀏覽器。而未與網路用戶真實身份對應識別的數據信息具有匿名性,其未達到個人信息保護的可識別性要求;
其次,雖然網路利用跟蹤技術提供了個性化推送服務,但其並 未直接向合作方披露用戶信息,也未對外宣揚用戶的網路活動軌跡及上網偏好 ,不構成《最高人民法院關於審理利用信息網路侵害人身權益民事糾紛案件適用法律若干問題的規定》中第十二條侵害個人隱私和個人信息責任中對 「公開行為」 的要求;
再次,個性化推薦服務具有協助互聯網用戶過濾海量信息的功能,用戶在享受免費且便捷服務的同時,應對該項技術持一定的寬容度;
又次,在用戶知情同意與用戶選擇權方面,網上跟蹤技術是互聯網普遍採用的一項信息技術,網路公司在《使用網路前必讀》中,對該項技術的使用 已有說明,並為用戶提供了選擇退出的機制 。
在這樣的背景下,朱燁仍使用網路公司提供的搜索引擎服務,應視為對網路公司個性化推送行為的默許。綜上,南京市中院最終判定網路網訊公司的個性化推薦行為不構成對朱燁隱私權的侵犯。
南京中院的裁判理由中,最為關鍵且排在首位的理由是個性化服務推薦中信息 不具有可識別性的特徵 。法院參考了《電信和互聯網用戶個人信息保護規定》中對個人信息的界定,斟酌網路推送信息的情況,認定其凱物在向用戶推送廣告的營銷中,沒有將信息的推送與個人身份進行關聯,這成為法院判定個性化推薦服務不侵犯用戶隱私的最為重要的理由。
可是網上行為的定位跟蹤陪孫轎是否真如網路所言是匿名的,不具有身份的可識別性?
大數據時代
個人信息保護研究
我們正在步入的世界,信息的價值受到人們的廣泛重視。一個關於信息的海量生成、分享、挖掘、分析、應用的數據時代正在開啟,我們所處的時代是一個正在發生變革的時代,是一個傳統與前沿交替的時代。很多國家把大數據提升到國家戰略的高度,美國政府更是把大數據看作「未來的石油」,大數據成為一種新的經濟資產,如同貨幣或黃金。
互聯網與大數據的時代,似乎是一個人人為保護隱私而蘆肆恐慌的時代,其實卻是一個絕大部分人樂在其中不覺奇怪的時代。
我們向互聯網企業提供個人信息換取便利,我們向國家敞開胸懷以獲得保護,我們把數據信息存儲在雲端,我們將個人的生活點滴在社交網路上進行分享,而與我們息息相關的信息碎片,廣泛存在於虛擬與現實的世界裡。
面對這樣的挑戰,傳統框架下用以保護個人信息與隱私的核心技術與法律手段呈現出有效性不足的特徵。信息保護的最小採集原則、目的限制原則停留在紙面,沒能在信息採集、傳遞、使用的過程中真正起到約束作用。而知情同意、匿名化、模糊化等傳統隱私保護策略已不能有效保護個人的信息與隱私。
隨著信息科學技術的發展,信息的交流、傳遞和獲取比以往任何時代都更加自由和迅速。在互聯網帶來的社會變革中,我們能便捷地獲得商品與服務,能以前所未有的方式獲得新知,交流與分享觀點。
這些發展革新了我們的自我表現,強化了我們的自由,為處於動態發展中的個人信息提供保護,為主體構建一個能自由呼吸的空間,它為人們的自我屬性與社會性屬性進行著邊界管理。
伴隨著都市化生活中個人信息保護意識的覺醒,個人信息保護的新時代已豁然降臨,面對這洶涌而來的時代浪潮,我們該何去何從。
推薦閱讀
《大數據時代個人信息保護研究》
內容簡介:
作者簡介:
- END -
⑺ 大數據時代給信息安全帶來的挑戰
大數據時代給信息安全帶來的挑戰
在大數據時代,商業生態環境在不經意間發生了巨大變化:無處不在的智能終端、隨時在線的網路傳輸、互動頻繁的社交網路,讓以往只是網頁瀏覽者的網民的面孔從模糊變得清晰,企業也有機會進行大規模的精準化的消費者行為研究。大數據藍海將成為未來競爭的制高點。
大數據在成為競爭新焦點的同時,不僅帶來了更多安全風險,同時也帶來了新機遇。
一、大數據成為網路攻擊的顯著目標。
在網路空間,大數據是更容易被「發現」的大目標。一方面,大數據意味著海量的數據,也意味著更復雜、更敏感的數據,這些數據會吸引更多的潛在攻擊者。另一方面,數據的大量匯集,使得黑客成功攻擊一次就能獲得更多數據,無形中降低了黑客的進攻成本,增加了「收益率」。
二、大數據加大隱私泄露風險。
大量數據的匯集不可避免地加大了用戶隱私泄露的風險。一方面,數據集中存儲增加了泄露風險,而這些數據不被濫用,也成為人身安全的一部分。另一方面,一些敏感數據的所有權和使用權並沒有明確界定,很多基於大數據的分析都未考慮到其中涉及的個體隱私問題。
三、大數據威脅現有的存儲和安防措施。
大數據存儲帶來新的安全問題。數據大集中的後果是復雜多樣的數據存儲在一起,很可能會出現將某些生產數據放在經營數據存儲位置的情況,致使企業安全管理不合規。大數據的大小也影響到安全控制措施能否正確運行。安全防護手段的更新升級速度無法跟上數據量非線性增長的步伐,就會暴露大數據安全防護的漏洞。
四、大數據技術成為黑客的攻擊手段。
在企業用數據挖掘和數據分析等大數據技術獲取商業價值的同時,黑客也在利用這些大數據技術向企業發起攻擊。黑客會最大限度地收集更多有用信息,比如社交網路、郵件、微博、電子商務、電話和家庭住址等信息,大數據分析使黑客的攻擊更加精準。此外,大數據也為黑客發起攻擊提供了更多機會。黑客利用大數據發起僵屍網路攻擊,可能會同時控制上百萬台傀儡機並發起攻擊。
五、大數據成為高級可持續攻擊的載體。
傳統的檢測是基於單個時間點進行的基於威脅特徵的實時匹配檢測,而高級可持續攻擊(APT)是一個實施過程,無法被實時檢測。此外,由於大數據的價值低密度特性,使得安全分析工具很難聚焦在價值點上,黑客可以將攻擊隱藏在大數據中,給安全服務提供商的分析製造很大困難。黑客設置的任何一個會誤導安全廠商目標信息提取和檢索的攻擊,都會導致安全監測偏離應有方向。
六、大數據技術為信息安全提供新支撐。
當然,大數據也為信息安全的發展提供了新機遇。大數據正在為安全分析提供新的可能性,對於海量數據的分析有助於信息安全服務提供商更好地刻畫網路異常行為,從而找出數據中的風險點。對實時安全和商務數據結合在一起的數據進行預防性分析,可識別釣魚攻擊,防止詐騙和阻止黑客入侵。網路攻擊行為總會留下蛛絲馬跡,這些痕跡都以數據的形式隱藏在大數據中,利用大數據技術整合計算和處理資源有助於更有針對性地應對信息安全威脅,有助於找到攻擊的源頭。
⑻ 大數據時代,數據的存儲與管理有哪些要求
數據時代的到來,數據的存儲有以下主要要求:
首先,海量數據被及時有效地存儲。根據現行技術和預防性法規和標准,系統採集的信息的保存時間不少於30天。數據量隨時間的增加而線性增加。
其次,數據存儲系統需要具有可擴展性,不僅要滿足海量數據的不斷增長,還要滿足獲取更高解析度或更多採集點的數據需求。
第三,存儲系統的性能要求很高。在多通道並發存儲的情況下,它對帶寬,數據容量,高速緩存等有很高的要求,並且需要針對視頻性能進行優化。
第四,大數據應用需要對數據存儲進行集中管理分析。
⑼ 大數據時代,數據存儲如何才能更安全
Smartbi許可權安全管理系統許可權體系關系圖如下:
整個Smartbi許可權安全管理系統中有一個超級管理員對所有的管理員、用戶進行管理。每一個組可以設置組管理員對本組成員(包括用戶和下級用戶組)進行許可權管理。
一、Smartbi許可權安全管理系統——操作許可權
主要是從更高層面對用戶許可權進行劃分,決定被授權用戶可以使用系統的哪些功能,可以執行哪些操作。如:管理員可以查看並設置數據源、用戶等信息,普通用戶只有查看報表的許可權,IT人員有設計和開發報表的許可權等等。
定義:操作許可權是指Smartbi的功能模塊許可權和具體操作的許可權,例如:是否允許功能入口、按鈕等的使用。
功能組成:操作許可權主要包含兩部分:功能入口和按鈕。
功能入口:包括「界面主菜單」或「系統主菜單」以及更多操作中 新建分析 > 透視分析 或 即席查詢 等功能入口。
按鈕:在每個具體的功能頁面中一般都會有工具欄包含很多的操作按鈕,每個按鈕代表不同的具體功能的操作,顯示區域如下圖所示:
二、Smartbi許可權安全管理系統——資源許可權
資源許可權是對平台具體資源的控制,可以限制被授權用戶到具體的某一張報表或某一個圖形資源,如:創建的某張報表只允許本部門的所有人查看,本部門以外的人不允許看到;或者某些報表只能被領導查看,普通員工不允許查看等等。
定義:Smartbi 平台中每個報表,每一個數據集都被視為平台的一個資源,資源的許可權主要是指是否對Smartbi平台的資源具有查看和編輯及再授權的權利。
資源分類:Smartbi平台的資源分類主要包括:數據連接、業務主題、數據集等,以「資源授權」下的資源樹為分類,詳細分類如下圖所示:
三、Smartbi許可權安全管理系統——數據許可權
在系統中,我們可以利用數據許可權功能實現不同區域的用戶登錄 Smartbi 後只能看到其所屬區域及子區域的數據,如:北京分行和廣州分行只能看到本分行自己的數據,而總行可以看到所有分行的數據和總行數據等等。
定義:數據許可權是從記錄的層面對用戶進行授權,從而限制了用戶可以訪問哪些數據,不可以訪問哪些數據。
數據許可權管理:數據許可權具體的設置過程,具體可以登陸官網詳細了解
授權對象
授權對象主要包括:角色、用戶組和用戶,用戶為最終的授權者,所有的許可權最終會體現在用戶身上:授權對象之間存在著一定關系,從用戶角度分析看,一個用戶可以有多個角色,可以同時屬於多個用戶組,並且一個用戶組也可以有多個角色,如此角色和用戶組的許可權最終都將傳遞到用戶上面。
如何授權
許可權授權的過程是將不同類型的許可權制定給被授權對象,最後將許可權傳遞給操作用戶,許可權授權的方式比較多,最終用戶的許可權是所有許可權的並集。
1、操作授權:通過角色管理功能,編輯角色操作許可權即可。操作頁面如下:
2、資源授權
統一授權:指將資源分配給角色,由角色統一管理可訪問資源。通過角色管理功能,通過勾選響應的資源,然後指定授權。操作頁面如下:
單個授權:為了滿足用戶的特別需求或者臨時需求,平台提供了針對單個資源的授權,可以將單個資源授權給某個用戶或某個用戶組。操作頁面如下:
三、Smartbi許可權安全管理系統——數據授權
數據授權原理是在生成sql語句時添加響應的過濾條件,對於各類資源設置數據許可權,應該是對其依賴的資源進行設置,比如即席查詢如來源於業務主題,則應該對其業務主題進行數據許可權設置。另外,我們在數據許可權設置中會經常用到各類的系統函數和用戶屬性。數據許可權設置分為兩種情況:
1)一種是通過「數據連接資源目錄區」中的「數據源」的更多操作中設置數據許可權或者在「業務主題界面」的表格樹目錄區中業務主題的更多操作中設置數據許可權,目前主要包含關系數據源、業務主題和多維數據源。
2)另一種在SQL語句中進行手動添加,包含關系型參數、SQL/原生SQL數據集。
⑽ 大數據時代,數據應該如何存儲
PB或多PB級基礎設施與傳統大規模數據集之間的差別簡直就像白天和黑夜的差別,就像在筆記本電腦上處理數據和在RAID陣列上處理數據之間的差別。"
當Day在2009年加入Shutterfly時,存儲已經成為該公司最大的開支,並且以飛快的速度增長。
"每N個PB的額外存儲意味著我們需要另一個存儲管理員來支持物理和邏輯基礎設施,"Day表示,"面對大規模數據存儲,系統會更頻繁地出問題,任何管理超大存儲的人經常都要處理硬體故障。大家都在試圖解決的根本問題是:當你知道存儲的一部分將在一段時間內出現問題,你應該如何確保數據可用性,同時確保不會降低性能?"RAID問題解決故障的標准答案是復制,通常以RAID陣列的形式。但Day表示,面對龐大規模的數據時,RAID解決問題的同時可能會製造更多問題。在傳統RAID數據存儲方案中,每個數據的副本都被鏡像和存儲在陣列的不同磁碟中,以確保完整性和可用性。但這意味著每個被鏡像和存儲的數據將需要其本身五倍以上的存儲空間。隨著RAID陣列中使用的磁碟越來越大(從密度和功耗的角度來看,3TB磁碟非常具有吸引力),更換故障驅動器的時間也將變得越來越長。
"實際上,我們使用RAID並不存在任何操作問題,"Day表示,"我們看到的是,隨著磁碟變得越來越大,當任何組件發生故障時,我們回到一個完全冗餘的系統的時間增加。生成校驗是與數據集的大小成正比的。當我們開始使用1TB和2TB的磁碟時,回到完全冗餘系統的時間變得很長。可以說,這種趨勢並沒有朝著正確的方向發展。"
對於Shutterfly而言,可靠性和可用性是非常關鍵的因素,這也是企業級存儲的要求。Day表示,其快速膨脹的存儲成本使商品系統變得更具吸引力。當Day及其團隊在研究潛在技術解決方案以幫助控制存儲成本時,他們對於一項叫做糾刪碼(erasure code)的技術非常感興趣。
採用擦除代碼技術的下一代存儲
里德-所羅門糾刪碼最初作為前向糾錯碼(Forward Error Correction, FEC)用於不可靠通道的數據傳輸,例如外層空間探測的數據傳輸。這項技術還被用於CD和DVD來處理光碟上的故障,例如灰塵和劃痕。一些存儲供應商已經開始將糾刪碼納入他們的解決方案中。使用糾刪碼,數據可以被分解成幾塊,單塊分解數據是無用的,然後它們被分散到不同磁碟驅動器或者伺服器。在任何使用,這些數據都可以完全重組,即使有些數據塊因為磁碟故障已經丟失。換句話說,你不需要創建多個數據副本,單個數據就可以確保數據的完整性和可用性。
基於糾刪碼的解決方案的早期供應商之一是Cleversafe公司,他們添加了位置信息來創建其所謂的分散編碼,讓用戶可以在不同位置(例如多個數據中心)存儲數據塊或者說數據片。
每個數據塊就其自身而言是無用的,這樣能夠確保隱私性和安全性。因為信息分散技術使用單一數據來確保數據完整性和可用性,而不是像RAID一樣使用多個副本,公司可以節省多達90%的存儲成本。
"當你將試圖重組數據時,你並不一定需要提供所有數據塊,"Cleversafe公司產品策略、市場營銷和客戶解決方案副總裁Russ Kennedy表示,"你生成的數據塊的數量,我們稱之為寬度,我們將重組數據需要的最低數量稱之為門檻。你生成的數據塊的數量和重組需要的數量之間的差異決定了其可靠性。同時,即使你丟失節點和驅動器,你仍然能夠得到原來形式的數據。"