❶ 如何实现交易数据到大数据平台的实时同步
在企业级大数据平台的建设中，从传统关系型数据库（如Oracle）向Hadoop平台汇聚数据是一个重要的课题。目前主流的工具有Sqoop、DataX、Oracle GoldenGate for Big Data等几种。Sqoop使用sql语句获取关系型数据库中的数据后，通过hadoop的MapRece把数据从关系型数据库中导入数据到HDFS，其通过指定递增列或者根据时间戳达到增量导入的目的，从原理上来说是一种离线批量导入技术；DataX 直接在运行DataX的机器上进行数据的抽取及加载，其主要原理为：通过Reader插件读取源数据，Writer插件写入数据到目标 ，使用Job来控制同步作业，也是一种离线批量导入技术；Oracle Goldengate for Big Data抽取在线日志中的数据变化，转换为GGS自定义的数据格式存放在本地队列或远端队列中，并利用TCP/IP传输数据变化，集成数据压缩，提供理论可达到9：1压缩比的数据压缩特性，它简化了向常用大数据解决方案的实时数据交付，可以在不影响源系统性能的情况下将交易数据实时传入大数据系统。对比以上工具及方法，结合数据处理的准确性及实时性要求，我们评估Oracle Goldengate for Big Data基本可以满足当前大数据平台数据抽取的需求。
❷ pg数据库集群怎么保证数据同步
要保证 PG 数据库集群中数据的同步，可以采用以下一些方法：
1. 流复制：流复制是 PG 数据库集群中最常用的数据同步方式。它基于二进制日志的基础上，将森弊迅主服务器上的事务日志传输到从服务器上进行重放。当主服务器执行一个新的事务时，它会向从服务器发送一个 WAL 记录，然后该记录会被写入从服务卜冲器的 WAL，从而实现了数据同步。
2. 逻辑复制：逻辑复制是另一种常用的 PG 数据库集群数此此据同步方式。它通过在主服务器上解析 SQL 插入，更新和删除语句，然后再将这些语句传输到从服务器上执行，来实现数据同步。
3. 复制槽：复制槽是一个用于保存复制信息的数据结构，可以用于控制流复制和逻辑复制。通过使用复制槽，可以确保从服务器可以接收到主服务器上的所有更改，即使从服务器离线或重启。
4. pgpool-II：pgpool-II 是一个流行的第三方开源工具，用于 PG 数据库集群中的负载均衡和故障转移。通过在 pgpool-II 中设置正确的参数，可以实现数据同步，从而提高系统的可用性和性能。
综上所述，要保证 PG 数据库集群中数据的同步，可以采用多种方法。具体选择哪一种同步方式取决于您的系统架构和业务需求。
❸ 力控组态软件同步实时数据到关系型数据库（sqlserver 2008）
字段Time和TagName是建表是的自动字段,不用设置,可以根据不同需要自己增加数据转储的字段,可以自己修改字段名。
按钮AuTo是自动添加所有变量的字段名,如果是本地数据源就字段名等于变量名,如果是远程数据源字段名自动等于”远程数据源名\\变量名”。
此时点击完成,和SQLserver2000之间的一个数据转储任务就设置完成。
❹ Redis和关系型数据库的主要区别，体现在哪些方面
Redis 和关系型数据库的主要区别有以下几嫌悄物个方面：
数据存储方式不同：Redis是基于内存的数据库，而关系型数据库通常是基于磁盘的。Redis的数据存储在内存中，因此读写速度非常快，但是容量受到内存大小的限制；而关系型数据库通常将数据存储在磁盘运搜中，因此读写速度较慢，但是容量可以扩展到很大。
数据结构不同：Redis支持多种数据结构，如字符串、哈希表、列表、集合和有序集合等；而关系型数据库通常只支持表格结构。
数据库应用场景不同：Redis主要用于缓存、队列、计数器等，而关系型数据库主要用于存储关系型数据。
数据库的处理方式不同：Redis可以对数芹液据进行持久化，包括RDB快照和AOF日志两种方式，保证数据不丢失。而关系型数据库通常采用事务机制来保证数据的一致性和完整性。
数据库的性能不同：Redis的读写性能非常高，因为它使用的是内存存储，而且支持多种数据结构；而关系型数据库的读写性能相对较低，因为它需要通过磁盘进行数据读写，并且数据结构比较单一。
总之，Redis和关系型数据库各有优缺点，应根据应用场景的需求选择适合的数据库。
❺ 采集数据 参数种类
采集数据参数种类是：Web数据（包括网页、视频、音频、动画、图片等）、日志数据、数据库数据、其它数据。
1、web数据采集：网络数据采集是指通过网络爬虫或网站公开 API 等方式从网站上获取数据信息的过程。
网络会从一个或若干初始网页的 URL 开始，获得各个网页上的内容，并且在抓取网页的过程中，不断从当前页面上抽取新的 URL 放入队列，直到满足设置的停止条件为止。
2、系统日志采集：系统日志采集主要是收集公司业务平台日常产生的大量日志数据，供离线和在线的大数据分析系统使用。
3、数据库采集：传统企业会使用传统的关系型数据库 MySQL 和 Oracle 等来存储数据。
4、其他数据：感知设备数据采集是指通过传感器、摄像头和其他智能终端自动采集信号、图片或录像来获取数据。
数据源数据同步种类是：
1、直接数据源同步：是指直接的连接业务数据库，通过规范的接口（如JDBC）去读取目标数据库的数据。这种方式比较容易实现，但是如果业务量比较大的数据源，可能会对性能有所影响。
2、生成数据文件同步：是指从数据源系统现生成数据文件，然后通过文件系统同步到目标数据库里。
3、数据库日志同步：是指基于源数据库的日志文件进行同步。现在大多数数据库都支持生成数据日志文件，并且支持用数据日志文件来恢复数据。因此可以使用这个数据日志文件来进行增量同步。
❻ 什么是数据同步
“数据同步是单纯的同步意为同时执行同样的操作，而数据同步将对象定位为数据，大多数时候对其的理解为不同存储设备或终端与终端，终端与服务器之间的备份操作。但完整的数据同步应为实时的，即当前操作双方应是互为镜像的，例如备份的过程直至结束即为数据同步，但这个操作样例则应该属于备份。
❼ 如何同步两个SQLServer数据库的内容
同步两个SQLServer数据库
如何同步两个sqlserver数据库的内容?程序代码可以有版本管理cvs进行同步管理,可是数据库同步就非常麻烦,只能自己改了一个后再去改另一个,如果忘记了更改另一个经常造成两个数据库的结构或内容上不一致.各位有什么好的方法吗?
一、分发与复制
用强制订阅实现数据库同步操作. 大量和批量的数据可以用数据库的同步机制处理:
//
说明：
为方便操作,所有操作均在发布服务器(分发服务器)上操作,并使用推模式
在客户机器使用强制订阅方式。
二、测试通过
1:环境
服务器环境:
机器名称： zehuadb
操作系统：windows 2000 server
数据库版本：sql 2000 server 个人版
客户端
机器名称：zlp
操作系统：windows 2000 server
数据库版本：sql 2000 server 个人版
2:建用户帐号
在服务器端建立域用户帐号
我的电脑管理->本地用户和组->用户->建立
username:zlp
userpwd:zlp
3:重新启动服务器mssqlserver
我的电脑->控制面版->管理工具->服务->mssqlserver 服务
(更改为：域用户帐号,我们新建的zlp用户 .\zlp,密码:zlp)
4:安装分发服务器
a:配置分发服务器
工具->复制->配置发布、订阅服务器和分发->下一步->下一步(所有的均采用默认配置)
b:配置发布服务器
工具->复制->创建和管理发布->选择要发布的数据库(sz)->下一步->快照发布->下一步->选择要发布的内容->下一步->下一步->下一步->完成
c:强制配置订阅服务器(推模式,拉模式与此雷同)
工具->复制->配置发布、订阅服务器和分发->订阅服务器->新建->sql server数据库->输入客户端服务器名称(zlp)->使用sql server 身份验证(sa,空密码)->确定->应用->确定
d:初始化订阅
复制监视器->发布服务器(zehuadb)->双击订阅->强制新建->下一步->选择启用的订阅服务器->zlp->下一步->下一步->下一步->下一步->完成
5:测试配置是否成功
复制监视器->发布衿?zehuadb)->双击sz:sz->点状态->点立即运行代理程序
查看：
复制监视器->发布服务器(zehuadb)->sz:sz->选择zlp:sz(类型强制)->鼠标右键->启动同步处理
如果没有错误标志(红色叉)，恭喜您配置成功
6:测试数据
在服务器执行:
选择一个表，执行如下sql: insert into wq_newsgroup_s select '测试成功',5
复制监视器->发布服务器(zehuadb)->sz:sz->快照->启动代理程序 ->zlp:sz(强制)->启动同步处理
去查看同步的 wq_newsgroup_s 是否插入了一条新的记录
测试完毕，通过。
7:修改数据库的同步时间,一般选择夜晚执行数据库同步处理
(具体操作略) :d
/*
注意说明：
服务器一端不能以(local)进行数据的发布与分发,需要先删除注册，然后新建注册本地计算机名称
卸载方式：工具->复制->禁止发布->是在"zehuadb"上静止发布,卸载所有的数据库同步配置服务器
注意：发布服务器、分发服务器中的sqlserveragent服务必须启动
采用推模式: "d:\microsoft sql server\mssql\repldata\unc" 目录文件可以不设置共享
拉模式:则需要共享~!
*/
少量数据库同步可以采用触发器实现,同步单表即可。
三、配置过程中可能出现的问题
在sql server 2000里设置和使用数据库复制之前，应先检查相关的几台sql server服务器下面几点是否满足：
1、mssqlserver和sqlserveragent服务是否是以域用户身份启动并运行的（.\administrator用户也是可以的）
如果登录用的是本地系统帐户local，将不具备网络功能，会产生以下错误:
进程未能连接到distributor '@server name'
(如果您的服务器已经用了sql server全文检索服务, 请不要修改mssqlserver和sqlserveragent服务的local启动。
会照成全文检索服务不能用。请换另外一台机器来做sql server 2000里复制中的分发服务器。)
修改服务启动的登录用户，需要重新启动mssqlserver和sqlserveragent服务才能生效。
2、检查相关的几台sql server服务器是否改过名称(需要srvid=0的本地机器上srvname和datasource一样)
在查询分析器里执行:
use master
select srvid,srvname,datasource from sysservers
如果没有srvid=0或者srvid=0（也就是本机器）但srvname和datasource不一样, 需要按如下方法修改:
use master
go
-- 设置两个变量
declare @serverproperty_servername varchar(100),
@servername varchar(100)
-- 取得windows nt 服务器和与指定的 sql server 实例关联的实例信息
select @serverproperty_servername = convert(varchar(100), serverproperty('servername'))
-- 返回运行 microsoft sql server 的本地服务器名称
select @servername = convert(varchar(100), @@servername)
-- 显示获取的这两个参数
select @serverproperty_servername,@servername
--如果@serverproperty_servername和@servername不同(因为你改过计算机名字),再运行下面的
--删除错误的服务器名
exec sp_dropserver @server=@servername
--添加正确的服务器名
exec sp_addserver @server=@serverproperty_servername, @local='local'
修改这项参数，需要重新启动mssqlserver和sqlserveragent服务才能生效。
这样一来就不会在创建复制的过程中出现18482、18483错误了。
3、检查sql server企业管理器里面相关的几台sql server注册名是否和上面第二点里介绍的srvname一样
不能用ip地址的注册名。
（我们可以删掉ip地址的注册，新建以sql server管理员级别的用户注册的服务器名）
这样一来就不会在创建复制的过程中出现14010、20084、18456、18482、18483错误了。
4、检查相关的几台sql server服务器网络是否能够正常访问
如果ping主机ip地址可以，但ping主机名不通的时候，需要在
winnt\system32\drivers\etc\hosts (win2000)
windows\system32\drivers\etc\hosts (win2003)
文件里写入数据库服务器ip地址和主机名的对应关系。
例如：
127.0.0.1 localhost
192.168.0.35 oracledb oracledb
192.168.0.65 fengyu02 fengyu02
202.84.10.193 bj_db bj_db
或者在sql server客户端网络实用工具里建立别名，例如:
5、系统需要的扩展存储过程是否存在(如果不存在，需要恢复):
sp_addextendedproc 'xp_regenumvalues',@dllname ='xpstar.dll'
go
sp_addextendedproc 'xp_regdeletevalue',@dllname ='xpstar.dll'
go
sp_addextendedproc 'xp_regdeletekey',@dllname ='xpstar.dll'
go
sp_addextendedproc xp_cmdshell ,@dllname ='xplog70.dll'
接下来就可以用sql server企业管理器里[复制]-> 右键选择 ->[配置发布、订阅服务器和分发]的图形界面来配置数据库复制了。
下面是按顺序列出配置复制的步骤:
1、建立发布和分发服务器
[欢迎使用配置发布和分发向导]->[选择分发服务器]->[使"@servername"成为它自己的分发服务器,sql server将创建分发数据库和日志]
->[制定快照文件夹]-> [自定义配置] -> [否,使用下列的默认配置] -> [完成]
上述步骤完成后, 会在当前"@servername" sql server数据库里建立了一个distribion库和 一个distributor_admin管理员级别的用户(我们可以任意修改密码)。
服务器上新增加了四个作业:
[ 代理程序历史记录清除: distribution ]
[ 分发清除: distribution ]
[ 复制代理程序检查 ]
[ 重新初始化存在数据验证失败的订阅 ]
sql server企业管理器里多了一个复制监视器, 当前的这台机器就可以发布、分发、订阅了。
我们再次在sql server企业管理器里[复制]-> 右键选择 ->[配置发布、订阅服务器和分发]
我们可以在 [发布服务器和分发服务器的属性] 窗口-> [发布服务器] -> [新增] -> [确定] -> [发布数据库] -> [事务]/[合并] -> [确定] -> [订阅服务器] -> [新增] -> [确定]
把网络上的其它sql server服务器添加成为发布或者订阅服务器.
新增一台发布服务器的选项：
我这里新建立的jin001发布服务器是用管理员级别的数据库用户test连接的，
到发布服务器的管理链接要输入密码的可选框, 默认的是选中的，
在新建的jin001发布服务器上建立和分发服务器fengyu/fengyu的链接的时需要输入distributor_admin用户的密码。到发布服务器的管理链接要输入密码的可选框，也可以不选，也就是不需要密码来建立发布到分发服务器的链接(这当然欠缺安全，在测试环境下可以使用)。
2、新建立的网络上另一台发布服务器(例如jin001)选择分发服务器
[欢迎使用配置发布和分发向导]->[选择分发服务器]
-> 使用下列服务器(选定的服务器必须已配置为分发服务器) -> [选定服务器](例如fengyu/fengyu)
-> [下一步] -> [输入分发服务器（例如fengyu/fengyu）的distributor_admin用户的密码两次]
-> [下一步] -> [自定义配置] -> [否，使用下列的默认配置]
-> [下一步] -> [完成] -> [确定]
建立一个数据库复制发布的过程:
[复制] -> [发布内容] -> 右键选择 -> [新建发布]
-> [下一步] -> [选择发布数据库] -> [选中一个待发布的数据库]
-> [下一步] -> [选择发布类型] -> [事务发布]/[合并发布]
-> [下一步] -> [指定订阅服务器的类型] -> [运行sql server 2000的服务器]
-> [下一步] -> [指定项目] -> [在事务发布中只可以发布带主键的表] -> [选中一个有主键的待发布的表]
->[在合并发布中会给表增加唯一性索引和 rowguidcol 属性的唯一标识符字段[rowguid],默认值是newid()]
(添加新列将: 导致不带列列表的 insert 语句失败,增加表的大小,增加生成第一个快照所要求的时间)
->[选中一个待发布的表]
-> [下一步] -> [选择发布名称和描述] ->
-> [下一步] -> [自定义发布的属性] -> [否，根据指定方式创建发布]
-> [下一步] -> [完成] -> [关闭]
发布属性里有很多有用的选项：设定订阅到期(例如24小时)
设定发布表的项目属性:
常规窗口可以指定发布目的表的名称，可以跟原来的表名称不一样。
下图是命令和快照窗口的栏目
( sql server 数据库复制技术实际上是用insert,update,delete操作在订阅服务器上重做发布服务器上的事务操作
看文档资料需要把发布数据库设成完全恢复模式，事务才不会丢失
但我自己在测试中发现发布数据库是简单恢复模式下，每10秒生成一些大事务，10分钟后再收缩数据库日志，
这期间发布和订阅服务器上的作业都暂停，暂停恢复后并没有丢失任何事务更改 )
发布表可以做数据筛选，例如只选择表里面的部分列:
例如只选择表里某些符合条件的记录, 我们可以手工编写筛选的sql语句:
发布表的订阅选项，并可以建立强制订阅:
成功建立了发布以后,发布服务器上新增加了一个作业: [ 失效订阅清除 ]
分发服务器上新增加了两个作业:
[ jin001-dack-dack-5 ] 类型[ repl快照 ]
[ jin001-dack-3 ] 类型[ repl日志读取器 ]
上面蓝色字的名称会根据发布服务器名,发布名及第几次发布而使用不同的编号
repl快照作业是sql server复制的前提条件,它会先把发布的表结构,数据,索引,约束等生成到发布服务器的os目录下文件
(当有订阅的时候才会生成, 当订阅请求初始化或者按照某个时间表调度生成)
repl日志读取器在事务复制的时候是一直处于运行状态。(在合并复制的时候可以根据调度的时间表来运行)
建立一个数据库复制订阅的过程:
[复制] -> [订阅] -> 右键选择 -> [新建请求订阅]
-> [下一步] -> [查找发布] -> [查看已注册服务器所做的发布]
-> [下一步] -> [选择发布] -> [选中已经建立发布服务器上的数据库发布名]
-> [下一步] -> [指定同步代理程序登录] -> [当代理程序连接到代理服务器时:使用sql server身份验证]
(输入发布服务器上distributor_admin用户名和密码)
-> [下一步] -> [选择目的数据库] -> [选择在其中创建订阅的数据库名]/[也可以新建一个库名]
-> [下一步] -> [允许匿名订阅] -> [是，生成匿名订阅]
-> [下一步] -> [初始化订阅] -> [是，初始化架构和数据]
-> [下一步] -> [快照传送] -> [使用该发布的默认快照文件夹中的快照文件]
(订阅服务器要能访问发布服务器的repldata文件夹，如果有问题，可以手工设置网络共享及共享权限)
-> [下一步] -> [快照传送] -> [使用该发布的默认快照文件夹中的快照文件]
-> [下一步] -> [设置分发代理程序调度] -> [使用下列调度] -> [更改] -> [例如每五分钟调度一次]
-> [下一步] -> [启动要求的服务] -> [该订阅要求在发布服务器上运行sqlserveragent服务]
-> [下一步] -> [完成] -> [确定]
成功建立了订阅后，订阅服务器上新增加了一个类别是[repl-分发]作业(合并复制的时候类别是[repl-合并])
它会按照我们给的时间调度表运行数据库同步复制的作业。
3、sql server复制配置好后, 可能出现异常情况的实验日志:
1.发布服务器断网,sql server服务关闭,重启动,关机的时候,对已经设置好的复制没有多大影响
中断期间,分发和订阅都接收到没有复制的事务信息
2.分发服务器断网,sql server服务关闭,重启动,关机的时候,对已经设置好的复制有一些影响
中断期间,发布服务器的事务排队堆积起来
(如果设置了较长时间才删除过期订阅的选项, 繁忙发布数据库的事务日志可能会较快速膨胀),
订阅服务器会因为访问不到发布服务器,反复重试
我们可以设置重试次数和重试的时间间隔(最大的重试次数是9999, 如果每分钟重试一次,可以支持约6.9天不出错)
分发服务器sql server服务启动,网络接通以后,发布服务器上的堆积作业将按时间顺序作用到订阅机器上:
会需要一个比较长的时间(实际上是生成所有事务的insert,update,delete语句,在订阅服务器上去执行)
我们在普通的pc机上实验的58个事务100228个命令执行花了7分28秒.
3.订阅服务器断网,sql server服务关闭,重启动,关机的时候,对已经设置好的复制影响比较大,可能需要重新初试化
我们实验环境(订阅服务器)从18:46分意外停机以, 第二天8:40分重启动后, 已经设好的复制在8:40分以后又开始正常运行了, 发布服务器上的堆积作业将按时间顺序作用到订阅机器上, 但复制管理器里出现快照的错误提示, 快照可能需要重新初试化,复制可能需要重新启动.(我们实验环境的机器并没有进行快照初试化,复制仍然是成功运行的)
4、删除已经建好的发布和定阅可以直接用delete删除按钮
我们最好总是按先删定阅，再删发布，最后禁用发布的顺序来操作。
如果要彻底删去sql server上面的复制设置, 可以这样操作:
[复制] -> 右键选择 [禁用发布] -> [欢迎使用禁用发布和分发向导]
-> [下一步] -> [禁用发布] -> [要在"@servername"上禁用发布]
-> [下一步] -> [完成禁用发布和分发向导] -> [完成]
我们也可以用t-sql命令来完成复制中发布及订阅的创建和删除, 选中已经设好的发布和订阅, 按属标右键可以[生成sql脚本]。(这里就不详细讲了, 后面推荐的网站内有比较详细的内容)
当你试图删除或者变更一个table时，出现以下错误
server: msg 3724, level 16, state 2, line 1
cannot drop the table 'object_name' because it is being used for replication.
比较典型的情况是该table曾经用于复制，但是后来又删除了复制。
处理办法：
select * from sysobjects where replinfo >'0'
sp_configure 'allow updates', 1
go
reconfigure with override
go
begin transaction
update sysobjects set replinfo = '0' where replinfo >'0'
commit transaction
go
rollback transaction
go
sp_configure 'allow updates', 0
go
reconfigure with override
go