Oracle-快速删除重复的记录做项目的时候,一位同事导数据的时候,不小心把一个表中的数据全都搞重了,也就是说,这个表里所有的记录都有一条重复的
这个表的数据是千万级的,而且是生产系统
也就是说,不能把所有的记录都删除,而且必须快速的把重复记录删掉
对此,总结了一下删除重复记录的方法,以及每种方法的优缺点
为了陈诉方便,假设表名为Tbl,表中有三列col1,col2,col3,其中col1,col2是主键,并且,col1,col2上加了索引
1、通过创建临时表可以把数据先导入到一个临时表中,然后删除原表的数据,再把数据导回原表,SQL语句如下:createtabletbl_tmp(selectdistinct*fromtbl);truncatetabletbl;//清空表记录insertintotblselect*fromtbl_tmp;//将临时表中的数据插回来
这种方法可以实现需求,但是很明显,对于一个千万级记录的表,这种方法很慢,在生产系统中,这会给系统带来很大的开销,不可行
2、利用rowid在Oracle中,每一条记录都有一个rowid,rowid在整个数据库中是唯一的,rowid确定了每条记录是Oracle中的哪一个数据文件、块、行上
在重复的记录中,可能所有列的内容都相同,但rowid不会相同
SQL语句如下:deletefromtblwhererowidin(selecta
rowidfromtbla,tblbwherea
rowid>b
rowidanda
col1=b
col1anda
col2=b
col2)如果已经知道每条记录只有一条重复的,这个sql语句适用
但是如果每条记录的重复记录有N条,这个N是未知的,就要考虑适用下面这种方法了
3、利用max或min函数这里也要使用rowid,与上面不同的是结合max或min函数来实现
SQL语句如下del