当前位置:首页 » 数据仓库 » 如何配置集群
扩展阅读
webinf下怎么引入js 2023-08-31 21:54:13
堡垒机怎么打开web 2023-08-31 21:54:11

如何配置集群

发布时间: 2022-03-01 23:45:52

⑴ 配置hadoop集群是怎么配置

在过去,大数据处理主要是采用标准化的刀片式服务器和存储区域网络(SAN)来满足网格和处理密集型工作负载。然而随着数据量和用户数的大幅增长,基础设施的需求已经发生变化,硬件厂商必须建立创新体系,来满足大数据对包括存储刀片,SAS(串行连接SCSI)开关,外部SATA阵列和更大容量的机架单元的需求。即寻求一种新的方法来存储和处理复杂的数据,Hadoop正是基于这样的目的应运而生的。Hadoop的数据在集群上均衡分布,并通过复制副本来确保数据的可靠性和容错性。因为数据和对数据处理的操作都是分布在服务器上,处理指令就可以直接地发送到存储数据的机器。这样一个集群的每个服务器器上都需要存储和处理数据,因此必须对Hadoop集群的每个节点进行配置,以满足数据存储和处理要求。
Hadoop框架中最核心的设计是为海量数据提供存储的HDFS和对数据进行计算的MapRece。MapRece的作业主要包括从磁盘或从网络读取数据,即IO密集工作,或者是计算数据,即CPU密集工作。Hadoop集群的整体性能取决于CPU、内存、网络以及存储之间的性能平衡。因此运营团队在选择机器配置时要针对不同的工作节点选择合适硬件类型。一个基本的Hadoop集群中的节点主要有:Namenode负责协调集群中的数据存储,DataNode存储被拆分的数据块,Jobtracker协调数据计算任务,最后的节点类型是Secondarynamenode,帮助NameNode收集文件系统运行的状态信息。

在集群中,大部分的机器设备是作为Datanode和TaskTracker工作的。Datanode/TaskTracker的硬件规格可以采用以下方案:
4个磁盘驱动器(单盘1-2T),支持JBOD
2个4核CPU,至少2-2.5GHz
16-24GB内存
千兆以太网
Namenode提供整个HDFS文件系统的namespace管理,块管理等所有服务,因此需要更多的RAM,与集群中的数据块数量相对应,并且需要优化RAM的内存通道带宽,采用双通道或三通道以上内存。硬件规格可以采用以下方案:
8-12个磁盘驱动器(单盘1-2T)
2个4核/8核CPU
16-72GB内存
千兆/万兆以太网
Secondarynamenode在小型集群中可以和Namenode共用一台机器,较大的群集可以采用与Namenode相同的硬件。考虑到关键节点的容错性,建议客户购买加固的服务器来运行的Namenodes和Jobtrackers,配有冗余电源和企业级RAID磁盘。最好是有一个备用机,当 namenode或jobtracker 其中之一突然发生故障时可以替代使用。

目前市场上的硬件平台满足Datanode/TaskTracker节点配置需求的很多,,据了解深耕网络安全硬件平台多年的立华科技瞄准了Hadoop的发展前景,适时推出了专门针对NameNode的设备----双路至强处理器搭载12块硬盘的FX-3411,将计算与存储完美融合,四通道内存的最大容量可达到256GB,完全满足NameNode对于一个大的内存模型和沉重的参考数据缓存组合的需求。

同时在网络方面,FX-3411支持的2个PCI-E*8的网络扩展,网络吞吐达到80Gbps,更是远远满足节点对千兆以太网或万兆以太网的需求。此外针对Datanode/TaskTracker等节点的配置需求,立华科技不仅推出了可支持单路至强E38核处理器和4块硬盘的标准品FX-3210,还有可以全面客制化的解决方案,以满足客户的不同需求。

Hadoop集群往往需要运行几十,几百或上千个节点,构建匹配其工作负载的硬件,可以为一个运营团队节省可观的成本,因此,需要精心的策划和慎重的选择。

如何配置linux集群和虚拟化技术

这个问题好大……
一般在物理机上装个centos系统,安装虚拟化支持软件,利用linux镜像创建多个虚拟机,将虚拟机配置成vswitch相连,再创建一个虚拟机配置成一个负载均衡器,这样就搭建好了一个基本的集群了。

⑶ windows搭建集群服务器

你这个需求是备份吧,Windows有两种服务可以解决你现在的问题:
1、网络负载均衡,可以把指定的服务器添加到负载均衡群中,并指定网络端口和协议,选择负载均衡集群切换模式是按照一对一还是交叉负载均衡;
2、故障转移集群,可以针对进程判断是否启用备份机的指定进程;

这两个集群各有各的用途,同时对于搭建也有自己的要求,完成集群后所对应的功能也略有不同。

部署:
负载均衡不需要额外设备;
但故障转移,需要iSCSI存储设备支持;

用途:
负载均衡针对网络端口,重点在于均衡,可以通过交叉策略,保证a/b的访问量一致,或者单一主机方式,保证在宕机或网线不通的情况下切换到备机;
故障转移,可以精确监控到进程,保证进程出现故障(包括宕机)即可转移到备机;

具体问题具体分析,看你需要什么级别的备份,要求高的话,上故障转移(但是要增加设备——iSCSI),要求简单,就上负载均衡

⑷ 怎样建立集群网

集群是一种技术解决方案,它将硬件和软件结合起来,为Web、Email以及数据库等服务提供高可用性和高伸缩性的架构.本文将分析集群的类型,然后将重点放在如何建立一个基于Microsoft的集群解决方案.

集群的类型

集群分为两种类型:负载平衡和失效转移(Failover).负载平衡集群将负载分散到集群内的各个资源,这要涉及跨越多个前端服务器的分布式网络传输.负载平衡集群令每个可用的服务器都拥有较为平均的负载量,以提高系统整体的性能和伸缩能力.这类集群一般用于Web和COM+程序,集群内部支持两个以上的节点.

Failover集群主要针对硬件和软件故障时的系统可用性.它监视系统资源,以确定何时启动失效转移.当系统发生故障时,集群会将资源从故障服务器转移到集群中的其他服务器,以恢复资源的可访问性.

一个具有容错能力的failover集群需要大量的硬件和专用软件,确定应用状态,它可以在硬件和软件发生故障时进行实时故障恢复,包括恢复到当前的应用状态.一个高可用性的集群必定是一个具有容错能力的集群,但它不一定能提供和failover集群同样的错误恢复能力.

Microsoft的Cluster Service (MSCS)是一种比容错集群更好的高可用性集群.它和专用的容错集群相比,所需硬件更少,但可以操作更多种类的应用.同时,它也可以对硬件和软件的故障进行恢复,但发生故障时无法正常恢复到应用状态则.高可用性的MSCS可以在一个集群内支持两个服务器节点.

基本的软硬件组件

集群中的服务器节点都采用各自独立的硬件设备,相互间协同工作.每个服务器有自己的操作系统,并独立连接在网络上.服务器间采用外部硬盘和专用网络连接.共享硬盘通过硬盘控制器与各个节点相连,这种硬盘控制器一般采用外置SCSI设备或存储局域网(SAN)作为共享硬盘,不同于包含操作系统的硬盘控制器.

MSCS解决方案可以采用主动/被动模式工作.在同一时间集群中只有一个节点是主动的,主动服务器存储着集群内的全部资源,并不断将数据写入共享硬盘,这就是所谓的quorum驱动器.它可以在故障恢复时,将共享状态信息从一个节点转移到另一个节点.定时的发送信号会通过服务器间的专用网传递,当处于被动模式的服务器没有受到这个信号,就认为主动服务器已经失效.此时,它便开始接管集群资源,并从quorum分区上读取状态信息.

在集群中安装 SQL Server

为啦在集群上安装 SQL Server ,你必须首先按以下步骤建立一个可操作的集群:
1. 在每个服务器上安装支持MSCS的Windows Server操作系统.
2. 为每个服务器建立一个公开的网络连接.这个连接用来接收外部查询请求.
3. 在集群的两个节点间建立一个专用网络,用来传输节点状态信号.
4. 在域中建立一个用户,用来操作集群.在每个服务器上将该用户添加到管理员组.
5. 将两个服务器关闭.连接到共享驱动器上,并建立磁盘资源.开启集群中的一号节点(主动模式).建立并初始化逻辑磁盘空间用来设置quorum驱动器,并建立其它的逻辑分区.
6. 通过控制面板的添加/删除程序中的Windows组件添加并配置Microsoft Cluster Service.其中包括设置集群的虚拟名称、IP地址,以及共享磁盘资源.
7. 开启二号节点(被动模式).当二号节点在线时,回到一号节点,通过集群管理程序添加二号节点.在集群中添加二号节点非常容易,只要通过在一号节点进行简单配置就可以完成.

集群建立好后,就按照以下步骤安装SQL Server啦:

1. 插入SQL Server企业版的安装光盘.如果没有启动自动安装程序,就在光盘上点击setup.exe.
2. 在确认计算机名界面,选择虚拟服务器并输入一个虚拟名称.
3. 建立一个运行SQL Server的服务账号.将集群中每个节点的管理权限赋给这个账号.
4. 填写IP地址、服务账号,以及共享磁盘资源等内容.

安装程序会在集群中的每个节点上安装SQL Server的复本,并在集群中建立虚拟设置.之后用户就可以通过集群管理器对SQL Server进行控制啦.

⑸ 如何查看群集配置

还可以使用 Sun Cluster Manager GUI 执行此过程。有关详细信息,请参见 Sun Cluster Manager 联机帮助。
phys-schost# 提示符表示全局群集提示符。此操作过程适用于全局群集。
此过程提供了 Sun Cluster 命令的长格式。此外,大多数命令还有简短格式。这些命令除了名称长短的不同以外,其功能都是相同的。有关命令及其简短格式的列表,请参见附录 B。
开始之前
超级用户以外的用户需要具有 solaris.cluster.read RBAC 授权才能使用 status 子命令。
查看全局群集或区域群集的配置。从全局群集的节点执行此过程中的所有步骤。

% cluster show

从全局群集投票节点运行 cluster show 命令可显示有关群集的详细配置信息以及区域群集的信息(如果已配置这些群集)。
您还可以使用 clzonecluster show 命令仅查看区域群集的配置信息。区域群集的属性包括区域群集名称、IP 类型、自动引导和区域路径。show 子命令在区域群集内部运行,并且仅适用于该特定区域群集。从区域群集节点运行 clzonecluster show 命令时,将仅检索有关对该特定区域群集可见的对象的状态。
要显示有关 cluster 命令的更多信息,请使用详细 (verbose) 选项。

⑹ 如何用多台电脑搭建一个集群

方法/步骤
集群通过多台PC完成同一个工作,更高更快的效率,且稳定。
两机或多机PC工作过程过程一样,只是更加快速,就是现在说的云。如果一台死机,另一台可以起作用。
多台PC怎么做集群
组成pc集群系统的pc之间的结构需要相同,不能有太大差异。集群pc按功能和结构分为四类;
负载均衡集群,多台pc运行时一般需要通过一个或多个前端负载均衡器将工作多台pc连接起来,然后负载均衡设备分发到后端的一组或者某个pc节点上,从而达到整个系统稳定性高性能性;
多台PC怎么做集群
高可用性集群,是指当pc集群中有某个pc节点失效的情况下,该台pc上的任务会自动转移到其他正常的pc上来,还可以将集群中的失效pc进行离线维护后再上线,这个不影响整个工作,这就体现了他的高可用性;
多台PC怎么做集群
高性能计算集群,采用的是将处理任务分配到各个不同的pc上以提高处理计算能力,主要应用于科学计算领域。
高性能集群非常适用于pc各节点之间发生大数据通讯的工作,体现工作处理能力的强,如一个节点的中间结果可能影响其它节点计算结果;
多台PC怎么做集群
网格集群是主要由异构资源组成,主要关注计算资源,包含同种处理器、操作系统提供的网格工作负载管理软件,可以将工作负载分发到不同类型、配置的pc上。
网格提供高的可扩展性,网格的动态特性可以提供很好的高可扩展性。集群和网格计算相互补充。
多台PC怎么做集群

⑺ 如何建立服务器集群及相关问题

集群准备工作N多,看你的具体需求而定,一般情况如下:
1、节点服务器,域,节点服务器必须在同一域内;
2、共享存储,最次也得一个NAS吧;
3、节点服务器的双网卡,共享存储一块,服务器通讯一块;
4、域相关设置,比如集群管理帐户等;

具体安装比较简单,add feature(添加功能),集群功能。
安装后需要先验证安装,开始菜单--〉管理工具--〉故障转移集群管理,验证过程中输入节点服务器IP或者域名(域内DNS注册以后)--〉运行全部测试,最后查看报告,根据报告修改、配置集群。一切正常以后,开始正式配置集群;

⑻ 怎么配置集群

他俩不是一个命令格式。
23上先删除默认管理vlan接口 undo int vlan 1
之后在创建新的管理vlan
vlan 2
int vlan 2
就可以了。就是当前配置下不能存在int vlan xx 这样的命令。否则在创建int vlan x 就会提示重复。

⑼ 服务器集群如何实现

不难,硬件用路由器,软件嘛,操作系统用WIN2003 server enterprise 企业版,推荐一并安装R2升级包,所有机器组局域网,用一台千兆网卡做域控,架设流媒体服务器,其他机做为域成员加入进来,内网IP各用各的,外网用端口映射到一个IP,用域控做网络流量负载平衡,域控机器配置要强,如果你网络流量大,建议用专业级服务器,至强+2Gb+SCSI硬盘之类,看你环境要求了,如果必要可以上双至强,再用一台512mb内存的p4 2.0G以上机做备份域控,这样主域控上下线或重启或出故障不影响域内成员正常工作,备份域控凑合就可以了,按我上面的要求就行,当然,有钱可以用好的

如果你安全性要求高,建议路由前端用普通P4+512Mb内存机器架ISA2004 server组防火墙,配置的好效果比一般的硬件防火墙要好,完全不影响网络环境运行,域内成员可以裸奔不怕毒和黑

至于域内成员机,如果仅全力供应片源,当前主流家用机型就够用了

服务器建议用hp 360G系列,目前价位不算高,性价比还不错,售后很好,如果你对建网不怎么了解,可以让他们帮你装,买他们的服务器就是要利用他们的人力资源嘛

路由器可以选用飞鱼星4200以上机型,电信网通双WAN口,是可以提供150~250台机器的大型网吧专用的,内置参数非常丰富

另外再多罗嗦几句,板卡不要买七彩虹的,我上过当,七彩虹本身是咨讯公司,没有任何板卡生产能力,都是同德代工的,以为它的出货量大,就选了它,结果广告上的指标参数和实际产品根本不同,水份太多太多了,售后也很烂,特此建议……

楼下别再抄袭我了,每天都被抄走好几个200分最佳,实在是郁闷!

⑽ 如何快速构建高可用集群

很多小型组织使用了KVM虚拟化,但却无法在主机发生故障时采取相关措施保证高可用性。本文介绍如何采取简单的方式确保虚拟机的高可用性。你可以使用任一Linux发行版的KVM,但是这些Linux发行版在集群功能方面存在差异。Pacemaker堆栈源于SUSE,红帽在最近的版本中才确定其集群实现方式。因此在本文中我将介绍如何在OpenSuSE 13.1 下配置集群。 图1. KVM高可用架构概览假定集群中的节点已经连接到了SAN。如果集群中的节点还没有连接到SAN,那么将虚拟主机连接到Linux SAN并不复杂,当然你也可以使用SAN设备。然而我们在本文中采用的方式—使用OCFS 2共享文件系统构建集群—只有在使用SAN时才是有效的。配置KVM高可用集群的步骤如下所示:创建基础集群在SAN共享存储上配置OCFS2集群文件系统使用SAN磁盘作为后端存储,安装虚拟机为虚拟机配置Pacemaker集群资源验证集群配置创建基础集群在Open SUSE 13.1下使用命令zypper in pacemaker ocfs2-tools lvm2-clvm 安装构建集群所必需的软件包,开始创建基础集群。集群包括两层。较低的层称之为corosync转载仅供参考,版权属于原作者。祝你愉快,满意请采纳哦