当前位置:首页 » 数据仓库 » 数据库去除重复数据
扩展阅读
webinf下怎么引入js 2023-08-31 21:54:13
堡垒机怎么打开web 2023-08-31 21:54:11

数据库去除重复数据

发布时间: 2022-04-23 15:20:48

sql数据库删除重复记录

delete from table where id not in

select min(id) from table group by name,url(如果有其他行辨别那么也在这里加上)
我保留的是id最小的行,你也可以留最大的行
我没办法加括号,写了子查询加了括号就发不上来

Ⅱ 如何提取出并删除数据库中重复的记录

我也想知道,于是找了下,一起看看吧
1、查找表中多余的重复记录,重复记录是根据单个字段(Id)来判断
select
*
from

where
Id
in
(select
Id
from

group
byId
having
count(Id)
>
1)
2、删除表中多余的重复记录,重复记录是根据单个字段(Id)来判断,只留有rowid最小的记录
DELETE
from

WHERE
(id)
IN
(
SELECT
id
FROM

GROUP
BY
id
HAVING
COUNT(id)
>
1)
AND
ROWID
NOT
IN
(SELECT
MIN(ROWID)
FROM

GROUP
BY
id
HAVING
COUNT(*)
>
1);
3、查找表中多余的重复记录(多个字段)
select
*
from

a
where
(a.Id,a.seq)
in(select
Id,seq
from

group
by
Id,seq
having
count(*)
>
1)
4、删除表中多余的重复记录(多个字段),只留有rowid最小的记录
delete
from

a
where
(a.Id,a.seq)
in
(select
Id,seq
from

group
by
Id,seq
having
count(*)
>
1)
and
rowid
not
in
(select
min(rowid)
from

group
by
Id,seq
having
count(*)>1)
5、查找表中多余的重复记录(多个字段),不包含rowid最小的记录
select
*
from

a
where
(a.Id,a.seq)
in
(select
Id,seq
from

group
by
Id,seq
having
count(*)
>
1)
and
rowid
not
in
(select
min(rowid)
from

group
by
Id,seq
having
count(*)>1)

Ⅲ 删除数据库中重复数据的几个方法

方法一

declare @max integer,@id integer
declare cur_rows cursor local for select 主字段,count(*) from 表名 group by 主字段 having count(*) > 1
open cur_rows
fetch cur_rows into @id,@max
while @@fetch_status=0
begin
select @max = @max -1
set rowcount @max
delete from 表名 where 主字段 = @id
fetch cur_rows into @id,@max
end
close cur_rows
set rowcount 0

方法二

有两个意义上的重复记录,一是完全重复的记录,也即所有字段均重复的记录,二是部分关键字段重复的记录,比如Name字段重复,而其他字段不一定重复或都重复可以忽略。

1、对于第一种重复,比较容易解决,使用 select distinct * from tableName 就可以得到无重复记录的结果集。
如果该表需要删除重复的记录(重复记录保留1条),可以按以下方法删除
select distinct * into #Tmp from tableName
drop table tableName
select * into tableName from #Tmp
drop table #Tmp

发生这种重复的原因是表设计不周产生的,增加唯一索引列即可解决。

2、这类重复问题通常要求保留重复记录中的第一条记录,操作方法如下:

假设有重复的字段为Name,Address,要求得到这两个字段唯一的结果集
select identity(int,1,1) as autoID, * into #Tmp from tableName
select min(autoID) as autoID into #Tmp2 from #Tmp group by Name,autoID
select * from #Tmp where autoID in(select autoID from #tmp2)
最后一个select即得到了Name,Address不重复的结果集(但多了一个autoID字段,实际写时可以写在select子句中省去此列)

Ⅳ 如何查找和删除数据库中的重复数据

法一:
用Group
by语句
此查找很快的select
count(num),
max(name)
from
student
–查找表中num列重复的,列出重复的记录数,并列出他的name属性group
by
numhaving
count(num)
>;1
–按num分组后找出表中num列重复,即出现次数大于一次delete
from
student(上面Select的)这样的话就把所有重复的都删除了。—–慎重法二:当表比较大(例如10万条以上)时,这个方法的效率之差令人无法忍受,需要另想办法:—-
执行下面SQL语句后就可以显示所有DRAWING和DSNO相同且重复的记录SELECT
*
FROM
EM5_PIPE_PREFABWHERE
ROWID!=(SELECT
MAX(ROWID)
FROM
EM5_PIPE_PREFAB
D
–D相当于First,SecondWHERE
EM5_PIPE_PREFAB.DRAWING=D.DRAWING
ANDEM5_PIPE_PREFAB.DSNO=D.DSNO);—-
执行下面SQL语句后就可以删除所有DRAWING和DSNO相同且重复的记录DELETE
FROM
EM5_PIPE_PREFABWHERE
ROWID!=(SELECT
MAX(ROWID)
FROM
EM5_PIPE_PREFAB
DWHERE
EM5_PIPE_PREFAB.DRAWING=D.DRAWING
ANDEM5_PIPE_PREFAB.DSNO=D.DSNO);法一:
用Group
by语句
此查找很快的select
count(num),
max(name)
from
student
–查找表中num列重复的,列出重复的记录数,并列出他的name属性group
by
numhaving
count(num)
>;1
–按num分组后找出表中num列重复,即出现次数大于一次delete
from
student(上面Select的)这样的话就把所有重复的都删除了。—–慎重法二:当表比较大(例如10万条以上)时,这个方法的效率之差令人无法忍受,需要另想办法:—-
执行下面SQL语句后就可以显示所有DRAWING和DSNO相同且重复的记录SELECT
*
FROM
EM5_PIPE_PREFABWHERE
ROWID!=(SELECT
MAX(ROWID)
FROM
EM5_PIPE_PREFAB
D
–D相当于First,SecondWHERE
EM5_PIPE_PREFAB.DRAWING=D.DRAWING
ANDEM5_PIPE_PREFAB.DSNO=D.DSNO);—-
执行下面SQL语句后就可以删除所有DRAWING和DSNO相同且重复的记录DELETE
FROM
EM5_PIPE_PREFABWHERE
ROWID!=(SELECT
MAX(ROWID)
FROM
EM5_PIPE_PREFAB
DWHERE
EM5_PIPE_PREFAB.DRAWING=D.DRAWING
ANDEM5_PIPE_PREFAB.DSNO=D.DSNO);

Ⅳ sql数据库中出现重复行数据,如何删除这些重复记录

示例

假设存在一个产品信息表Procts,其表结构如下:

CREATETABLEProcts(
ProctIDint,
ProctNamenvarchar(40),
Unitchar(2),
UnitPricemoney
)

表中数据如图:

*fromProcts_tempdroptableProcts_temp


这样就完成了对表中重复记录的删除。无论表有多大,它的执行速度都是相当快的,而且因为几乎不用写语句,所以它也是很安全的

Ⅵ sql中如何删除一个表中重复的记录

sql中删除一个表中的重复记录可以采用如下步骤:

1、把a_dist表的记录用distinct去重,结果放到临时表中。

select distinct * into #temp from a_dist;

2、把a_dist表的记录全部删除。

delete from a_dist;

3、把临时表中的数据信息导进到a_dist表中,并删除临时表。

insert into a_distselect * from #temp;

drop table #temp;

(6)数据库去除重复数据扩展阅读:

SQL (结构化查询语言)是用于执行查询的语法。在数据库上执行的大部分工作都由 SQL 语句完成。SQL 语言包含用于更新、插入和删除记录的语法。

增删改查指令构成了 SQL 的 DML 部分:

  • SELECT- 从数据库表中获取数据

  • UPDATE- 更新数据库表中的数据

  • DELETE- 从数据库表中删除数据

  • INSERT INTO- 向数据库表中插入数据

Ⅶ 数据库中怎么删除重复的记录,只保留唯一的记录

方法很多,说一个最简单的。
先建一个表,结构和原来的表一样,但是在你要去重的列建立一个主键,并设置“忽略重复键”,把原表中的所有数据插入这个新表,
此时新表中的数据就已经是非重复的了。
把原表数据都删掉,把新表中的数据都导回来就ok了

Ⅷ 如何删除数据库中的重复数据

有两个意义上的重复记录

①完全重复的记录,也即所有字段均重复的记录。

②部分关键字段重复的记录,比如Name字段重复,而其他字段不一定重复或都重复可以忽略。


1、对于第一种重复,比较容易解决,使用

selectdistinct*fromtableName


这样就可以得到无重复记录的结果集。然后通过临时表实现对数据的维护。

selectdistinct*into#TmpfromtableName
droptabletableName
select*intotableNamefrom#Tmp
droptable#Tmp

#Tmp为什么系统参数,tableName为要操作的表名。


2、第二类重复问题通常要求保留重复记录中的第一条记录,操作方法如下:

假设有重复的字段为Name,Address,要求得到这两个字段唯一的结果集

selectidentity(int,1,1)asautoID,*into#TmpfromtableName
selectmin(autoID)asautoIDinto#Tmp2from#TmpgroupbyName,autoID
select*from#TmpwhereautoIDin(selectautoIDfrom#tmp2)

最后一个select即得到了Name,Address不重复的结果集(但多了一个autoID字段,实际写时可以写在select子句中省去此列)

Ⅸ oracle数据库怎么删除重复数据啊

用这种效率最高的就可以
比如,某个表要按照id和name重复,就算重复数据
delete from 表名 where rowid not in (select min(rowid) from 表名 group by id,name);
commit;如果以id,name和grade重复算作重复数据
delete from 表名 where rowid not in (select min(rowid) from 表名 group by id,name,grade);
commit;注意:min也可用max替代

Ⅹ 关于删除SQL数据库表里重复数据的问题

1、把不重复的数据转存到临时表
select
name,time,min(id)
into
#tmp
from
表名
group
by
name,time;
2、清空原表
truncate
table
表名;
3、把数据导回
insert
itno
表名
select
*
from
#tmp;
4、删除临时表
drop
table
#tmp;
---
以上,希望对你有所帮助。