當前位置:首頁 » 數據倉庫 » 如何配置集群
擴展閱讀
webinf下怎麼引入js 2023-08-31 21:54:13
堡壘機怎麼打開web 2023-08-31 21:54:11

如何配置集群

發布時間: 2022-03-01 23:45:52

⑴ 配置hadoop集群是怎麼配置

在過去,大數據處理主要是採用標准化的刀片式伺服器和存儲區域網路(SAN)來滿足網格和處理密集型工作負載。然而隨著數據量和用戶數的大幅增長,基礎設施的需求已經發生變化,硬體廠商必須建立創新體系,來滿足大數據對包括存儲刀片,SAS(串列連接SCSI)開關,外部SATA陣列和更大容量的機架單元的需求。即尋求一種新的方法來存儲和處理復雜的數據,Hadoop正是基於這樣的目的應運而生的。Hadoop的數據在集群上均衡分布,並通過復制副本來確保數據的可靠性和容錯性。因為數據和對數據處理的操作都是分布在伺服器上,處理指令就可以直接地發送到存儲數據的機器。這樣一個集群的每個伺服器器上都需要存儲和處理數據,因此必須對Hadoop集群的每個節點進行配置,以滿足數據存儲和處理要求。
Hadoop框架中最核心的設計是為海量數據提供存儲的HDFS和對數據進行計算的MapRece。MapRece的作業主要包括從磁碟或從網路讀取數據,即IO密集工作,或者是計算數據,即CPU密集工作。Hadoop集群的整體性能取決於CPU、內存、網路以及存儲之間的性能平衡。因此運營團隊在選擇機器配置時要針對不同的工作節點選擇合適硬體類型。一個基本的Hadoop集群中的節點主要有:Namenode負責協調集群中的數據存儲,DataNode存儲被拆分的數據塊,Jobtracker協調數據計算任務,最後的節點類型是Secondarynamenode,幫助NameNode收集文件系統運行的狀態信息。

在集群中,大部分的機器設備是作為Datanode和TaskTracker工作的。Datanode/TaskTracker的硬體規格可以採用以下方案:
4個磁碟驅動器(單盤1-2T),支持JBOD
2個4核CPU,至少2-2.5GHz
16-24GB內存
千兆乙太網
Namenode提供整個HDFS文件系統的namespace管理,塊管理等所有服務,因此需要更多的RAM,與集群中的數據塊數量相對應,並且需要優化RAM的內存通道帶寬,採用雙通道或三通道以上內存。硬體規格可以採用以下方案:
8-12個磁碟驅動器(單盤1-2T)
2個4核/8核CPU
16-72GB內存
千兆/萬兆乙太網
Secondarynamenode在小型集群中可以和Namenode共用一台機器,較大的群集可以採用與Namenode相同的硬體。考慮到關鍵節點的容錯性,建議客戶購買加固的伺服器來運行的Namenodes和Jobtrackers,配有冗餘電源和企業級RAID磁碟。最好是有一個備用機,當 namenode或jobtracker 其中之一突然發生故障時可以替代使用。

目前市場上的硬體平台滿足Datanode/TaskTracker節點配置需求的很多,,據了解深耕網路安全硬體平台多年的立華科技瞄準了Hadoop的發展前景,適時推出了專門針對NameNode的設備----雙路至強處理器搭載12塊硬碟的FX-3411,將計算與存儲完美融合,四通道內存的最大容量可達到256GB,完全滿足NameNode對於一個大的內存模型和沉重的參考數據緩存組合的需求。

同時在網路方面,FX-3411支持的2個PCI-E*8的網路擴展,網路吞吐達到80Gbps,更是遠遠滿足節點對千兆乙太網或萬兆乙太網的需求。此外針對Datanode/TaskTracker等節點的配置需求,立華科技不僅推出了可支持單路至強E38核處理器和4塊硬碟的標准品FX-3210,還有可以全面客制化的解決方案,以滿足客戶的不同需求。

Hadoop集群往往需要運行幾十,幾百或上千個節點,構建匹配其工作負載的硬體,可以為一個運營團隊節省可觀的成本,因此,需要精心的策劃和慎重的選擇。

如何配置linux集群和虛擬化技術

這個問題好大……
一般在物理機上裝個centos系統,安裝虛擬化支持軟體,利用linux鏡像創建多個虛擬機,將虛擬機配置成vswitch相連,再創建一個虛擬機配置成一個負載均衡器,這樣就搭建好了一個基本的集群了。

⑶ windows搭建集群伺服器

你這個需求是備份吧,Windows有兩種服務可以解決你現在的問題:
1、網路負載均衡,可以把指定的伺服器添加到負載均衡群中,並指定網路埠和協議,選擇負載均衡集群切換模式是按照一對一還是交叉負載均衡;
2、故障轉移集群,可以針對進程判斷是否啟用備份機的指定進程;

這兩個集群各有各的用途,同時對於搭建也有自己的要求,完成集群後所對應的功能也略有不同。

部署:
負載均衡不需要額外設備;
但故障轉移,需要iSCSI存儲設備支持;

用途:
負載均衡針對網路埠,重點在於均衡,可以通過交叉策略,保證a/b的訪問量一致,或者單一主機方式,保證在宕機或網線不通的情況下切換到備機;
故障轉移,可以精確監控到進程,保證進程出現故障(包括宕機)即可轉移到備機;

具體問題具體分析,看你需要什麼級別的備份,要求高的話,上故障轉移(但是要增加設備——iSCSI),要求簡單,就上負載均衡

⑷ 怎樣建立集群網

集群是一種技術解決方案,它將硬體和軟體結合起來,為Web、Email以及資料庫等服務提供高可用性和高伸縮性的架構.本文將分析集群的類型,然後將重點放在如何建立一個基於Microsoft的集群解決方案.

集群的類型

集群分為兩種類型:負載平衡和失效轉移(Failover).負載平衡集群將負載分散到集群內的各個資源,這要涉及跨越多個前端伺服器的分布式網路傳輸.負載平衡集群令每個可用的伺服器都擁有較為平均的負載量,以提高系統整體的性能和伸縮能力.這類集群一般用於Web和COM+程序,集群內部支持兩個以上的節點.

Failover集群主要針對硬體和軟體故障時的系統可用性.它監視系統資源,以確定何時啟動失效轉移.當系統發生故障時,集群會將資源從故障伺服器轉移到集群中的其他伺服器,以恢復資源的可訪問性.

一個具有容錯能力的failover集群需要大量的硬體和專用軟體,確定應用狀態,它可以在硬體和軟體發生故障時進行實時故障恢復,包括恢復到當前的應用狀態.一個高可用性的集群必定是一個具有容錯能力的集群,但它不一定能提供和failover集群同樣的錯誤恢復能力.

Microsoft的Cluster Service (MSCS)是一種比容錯集群更好的高可用性集群.它和專用的容錯集群相比,所需硬體更少,但可以操作更多種類的應用.同時,它也可以對硬體和軟體的故障進行恢復,但發生故障時無法正常恢復到應用狀態則.高可用性的MSCS可以在一個集群內支持兩個伺服器節點.

基本的軟硬體組件

集群中的伺服器節點都採用各自獨立的硬體設備,相互間協同工作.每個伺服器有自己的操作系統,並獨立連接在網路上.伺服器間採用外部硬碟和專用網路連接.共享硬碟通過硬碟控制器與各個節點相連,這種硬碟控制器一般採用外置SCSI設備或存儲區域網(SAN)作為共享硬碟,不同於包含操作系統的硬碟控制器.

MSCS解決方案可以採用主動/被動模式工作.在同一時間集群中只有一個節點是主動的,主動伺服器存儲著集群內的全部資源,並不斷將數據寫入共享硬碟,這就是所謂的quorum驅動器.它可以在故障恢復時,將共享狀態信息從一個節點轉移到另一個節點.定時的發送信號會通過伺服器間的專用網傳遞,當處於被動模式的伺服器沒有受到這個信號,就認為主動伺服器已經失效.此時,它便開始接管集群資源,並從quorum分區上讀取狀態信息.

在集群中安裝 SQL Server

為啦在集群上安裝 SQL Server ,你必須首先按以下步驟建立一個可操作的集群:
1. 在每個伺服器上安裝支持MSCS的Windows Server操作系統.
2. 為每個伺服器建立一個公開的網路連接.這個連接用來接收外部查詢請求.
3. 在集群的兩個節點間建立一個專用網路,用來傳輸節點狀態信號.
4. 在域中建立一個用戶,用來操作集群.在每個伺服器上將該用戶添加到管理員組.
5. 將兩個伺服器關閉.連接到共享驅動器上,並建立磁碟資源.開啟集群中的一號節點(主動模式).建立並初始化邏輯磁碟空間用來設置quorum驅動器,並建立其它的邏輯分區.
6. 通過控制面板的添加/刪除程序中的Windows組件添加並配置Microsoft Cluster Service.其中包括設置集群的虛擬名稱、IP地址,以及共享磁碟資源.
7. 開啟二號節點(被動模式).當二號節點在線時,回到一號節點,通過集群管理程序添加二號節點.在集群中添加二號節點非常容易,只要通過在一號節點進行簡單配置就可以完成.

集群建立好後,就按照以下步驟安裝SQL Server啦:

1. 插入SQL Server企業版的安裝光碟.如果沒有啟動自動安裝程序,就在光碟上點擊setup.exe.
2. 在確認計算機名界面,選擇虛擬伺服器並輸入一個虛擬名稱.
3. 建立一個運行SQL Server的服務賬號.將集群中每個節點的管理許可權賦給這個賬號.
4. 填寫IP地址、服務賬號,以及共享磁碟資源等內容.

安裝程序會在集群中的每個節點上安裝SQL Server的復本,並在集群中建立虛擬設置.之後用戶就可以通過集群管理器對SQL Server進行控制啦.

⑸ 如何查看群集配置

還可以使用 Sun Cluster Manager GUI 執行此過程。有關詳細信息,請參見 Sun Cluster Manager 聯機幫助。
phys-schost# 提示符表示全局群集提示符。此操作過程適用於全局群集。
此過程提供了 Sun Cluster 命令的長格式。此外,大多數命令還有簡短格式。這些命令除了名稱長短的不同以外,其功能都是相同的。有關命令及其簡短格式的列表,請參見附錄 B。
開始之前
超級用戶以外的用戶需要具有 solaris.cluster.read RBAC 授權才能使用 status 子命令。
查看全局群集或區域群集的配置。從全局群集的節點執行此過程中的所有步驟。

% cluster show

從全局群集投票節點運行 cluster show 命令可顯示有關群集的詳細配置信息以及區域群集的信息(如果已配置這些群集)。
您還可以使用 clzonecluster show 命令僅查看區域群集的配置信息。區域群集的屬性包括區域群集名稱、IP 類型、自動引導和區域路徑。show 子命令在區域群集內部運行,並且僅適用於該特定區域群集。從區域群集節點運行 clzonecluster show 命令時,將僅檢索有關對該特定區域群集可見的對象的狀態。
要顯示有關 cluster 命令的更多信息,請使用詳細 (verbose) 選項。

⑹ 如何用多台電腦搭建一個集群

方法/步驟
集群通過多台PC完成同一個工作,更高更快的效率,且穩定。
兩機或多機PC工作過程過程一樣,只是更加快速,就是現在說的雲。如果一台死機,另一台可以起作用。
多台PC怎麼做集群
組成pc集群系統的pc之間的結構需要相同,不能有太大差異。集群pc按功能和結構分為四類;
負載均衡集群,多台pc運行時一般需要通過一個或多個前端負載均衡器將工作多台pc連接起來,然後負載均衡設備分發到後端的一組或者某個pc節點上,從而達到整個系統穩定性高性能性;
多台PC怎麼做集群
高可用性集群,是指當pc集群中有某個pc節點失效的情況下,該台pc上的任務會自動轉移到其他正常的pc上來,還可以將集群中的失效pc進行離線維護後再上線,這個不影響整個工作,這就體現了他的高可用性;
多台PC怎麼做集群
高性能計算集群,採用的是將處理任務分配到各個不同的pc上以提高處理計算能力,主要應用於科學計算領域。
高性能集群非常適用於pc各節點之間發生大數據通訊的工作,體現工作處理能力的強,如一個節點的中間結果可能影響其它節點計算結果;
多台PC怎麼做集群
網格集群是主要由異構資源組成,主要關注計算資源,包含同種處理器、操作系統提供的網格工作負載管理軟體,可以將工作負載分發到不同類型、配置的pc上。
網格提供高的可擴展性,網格的動態特性可以提供很好的高可擴展性。集群和網格計算相互補充。
多台PC怎麼做集群

⑺ 如何建立伺服器集群及相關問題

集群准備工作N多,看你的具體需求而定,一般情況如下:
1、節點伺服器,域,節點伺服器必須在同一域內;
2、共享存儲,最次也得一個NAS吧;
3、節點伺服器的雙網卡,共享存儲一塊,伺服器通訊一塊;
4、域相關設置,比如集群管理帳戶等;

具體安裝比較簡單,add feature(添加功能),集群功能。
安裝後需要先驗證安裝,開始菜單--〉管理工具--〉故障轉移集群管理,驗證過程中輸入節點伺服器IP或者域名(域內DNS注冊以後)--〉運行全部測試,最後查看報告,根據報告修改、配置集群。一切正常以後,開始正式配置集群;

⑻ 怎麼配置集群

他倆不是一個命令格式。
23上先刪除默認管理vlan介面 undo int vlan 1
之後在創建新的管理vlan
vlan 2
int vlan 2
就可以了。就是當前配置下不能存在int vlan xx 這樣的命令。否則在創建int vlan x 就會提示重復。

⑼ 伺服器集群如何實現

不難,硬體用路由器,軟體嘛,操作系統用WIN2003 server enterprise 企業版,推薦一並安裝R2升級包,所有機器組區域網,用一台千兆網卡做域控,架設流媒體伺服器,其他機做為域成員加入進來,內網IP各用各的,外網用埠映射到一個IP,用域控做網路流量負載平衡,域控機器配置要強,如果你網路流量大,建議用專業級伺服器,至強+2Gb+SCSI硬碟之類,看你環境要求了,如果必要可以上雙至強,再用一台512mb內存的p4 2.0G以上機做備份域控,這樣主域控上下線或重啟或出故障不影響域內成員正常工作,備份域控湊合就可以了,按我上面的要求就行,當然,有錢可以用好的

如果你安全性要求高,建議路由前端用普通P4+512Mb內存機器架ISA2004 server組防火牆,配置的好效果比一般的硬體防火牆要好,完全不影響網路環境運行,域內成員可以裸奔不怕毒和黑

至於域內成員機,如果僅全力供應片源,當前主流家用機型就夠用了

伺服器建議用hp 360G系列,目前價位不算高,性價比還不錯,售後很好,如果你對建網不怎麼了解,可以讓他們幫你裝,買他們的伺服器就是要利用他們的人力資源嘛

路由器可以選用飛魚星4200以上機型,電信網通雙WAN口,是可以提供150~250台機器的大型網吧專用的,內置參數非常豐富

另外再多羅嗦幾句,板卡不要買七彩虹的,我上過當,七彩虹本身是咨訊公司,沒有任何板卡生產能力,都是同德代工的,以為它的出貨量大,就選了它,結果廣告上的指標參數和實際產品根本不同,水份太多太多了,售後也很爛,特此建議……

樓下別再抄襲我了,每天都被抄走好幾個200分最佳,實在是郁悶!

⑽ 如何快速構建高可用集群

很多小型組織使用了KVM虛擬化,但卻無法在主機發生故障時採取相關措施保證高可用性。本文介紹如何採取簡單的方式確保虛擬機的高可用性。你可以使用任一Linux發行版的KVM,但是這些Linux發行版在集群功能方面存在差異。Pacemaker堆棧源於SUSE,紅帽在最近的版本中才確定其集群實現方式。因此在本文中我將介紹如何在OpenSuSE 13.1 下配置集群。 圖1. KVM高可用架構概覽假定集群中的節點已經連接到了SAN。如果集群中的節點還沒有連接到SAN,那麼將虛擬主機連接到Linux SAN並不復雜,當然你也可以使用SAN設備。然而我們在本文中採用的方式—使用OCFS 2共享文件系統構建集群—只有在使用SAN時才是有效的。配置KVM高可用集群的步驟如下所示:創建基礎集群在SAN共享存儲上配置OCFS2集群文件系統使用SAN磁碟作為後端存儲,安裝虛擬機為虛擬機配置Pacemaker集群資源驗證集群配置創建基礎集群在Open SUSE 13.1下使用命令zypper in pacemaker ocfs2-tools lvm2-clvm 安裝構建集群所必需的軟體包,開始創建基礎集群。集群包括兩層。較低的層稱之為corosync轉載僅供參考,版權屬於原作者。祝你愉快,滿意請採納哦