SQL Server2008中删除重复记录
2011-10-29 18:51
169 查看
在Database中可能由于某种原因如用户输入,导入数据失败等导致了重复记录.如果你没有用主键,约束,或来其它机制实现数据完整性,那最后总是重复记录在你的数据库中.现在让我们来看在SQLSERVER2008中如何删除这些记录,首先,可以模拟造一些简单重复记录:
.csharpcode,.csharpcodepre
{
font-size:small;
color:black;
font-family:consolas,"CourierNew",courier,monospace;
background-color:#ffffff;
/*white-space:pre;*/
}
.csharpcodepre{margin:0em;}
.csharpcode.rem{color:#008000;}
.csharpcode.kwrd{color:#0000ff;}
.csharpcode.str{color:#006080;}
.csharpcode.op{color:#0000c0;}
.csharpcode.preproc{color:#cc6633;}
.csharpcode.asp{background-color:#ffff00;}
.csharpcode.html{color:#800000;}
.csharpcode.attr{color:#ff0000;}
.csharpcode.alt
{
background-color:#f4f4f4;
width:100%;
margin:0em;
}
.csharpcode.lnum{color:#606060;}
OK,首先我们使用最常见的方法:
接着使用RowNumber():[/code]
.csharpcode,.csharpcodepre
{
font-size:small;
color:black;
font-family:consolas,"CourierNew",courier,monospace;
background-color:#ffffff;
/*white-space:pre;*/
}
.csharpcodepre{margin:0em;}
.csharpcode.rem{color:#008000;}
.csharpcode.kwrd{color:#0000ff;}
.csharpcode.str{color:#006080;}
.csharpcode.op{color:#0000c0;}
.csharpcode.preproc{color:#cc6633;}
.csharpcode.asp{background-color:#ffff00;}
.csharpcode.html{color:#800000;}
.csharpcode.attr{color:#ff0000;}
.csharpcode.alt
{
background-color:#f4f4f4;
width:100%;
margin:0em;
}
.csharpcode.lnum{color:#606060;}
还可以使用CTE(CommonTableExpressions):
.csharpcode,.csharpcodepre
{
font-size:small;
color:black;
font-family:consolas,"CourierNew",courier,monospace;
background-color:#ffffff;
/*white-space:pre;*/
}
.csharpcodepre{margin:0em;}
.csharpcode.rem{color:#008000;}
.csharpcode.kwrd{color:#0000ff;}
.csharpcode.str{color:#006080;}
.csharpcode.op{color:#0000c0;}
.csharpcode.preproc{color:#cc6633;}
.csharpcode.asp{background-color:#ffff00;}
.csharpcode.html{color:#800000;}
.csharpcode.attr{color:#ff0000;}
.csharpcode.alt
{
background-color:#f4f4f4;
width:100%;
margin:0em;
}
.csharpcode.lnum{color:#606060;}
再加上RANK()的CTE:
.csharpcode,.csharpcodepre
{
font-size:small;
color:black;
font-family:consolas,"CourierNew",courier,monospace;
background-color:#ffffff;
/*white-space:pre;*/
}
.csharpcodepre{margin:0em;}
.csharpcode.rem{color:#008000;}
.csharpcode.kwrd{color:#0000ff;}
.csharpcode.str{color:#006080;}
.csharpcode.op{color:#0000c0;}
.csharpcode.preproc{color:#cc6633;}
.csharpcode.asp{background-color:#ffff00;}
.csharpcode.html{color:#800000;}
.csharpcode.attr{color:#ff0000;}
.csharpcode.alt
{
background-color:#f4f4f4;
width:100%;
margin:0em;
}
.csharpcode.lnum{color:#606060;}
下面是这四个T-SQL查询的执行计划:
你可以看到没有用CTE的方法开销最大,主要是在TableSpool,这里开销了44%,TableSpool是一个物理运算符。
TableSpool运算符扫描输入,并将各行的一个副本放入隐藏的假脱机表中,此表存储在tempdb数据库中并且仅在查询的生存期内存在。如果重绕该运算符(例如通过NestedLoops运算符重绕),但不需要任何重新绑定,则将使用假脱机数据,而不用重新扫描输入。
CreateTabledbo.Employee
([Id]intPrimaryKEY,
[Name]varchar(50),
[Age]int,
[Sex]bitdefault1)
InsertIntoEmployee([Id],[Name],[Age],[Sex])Values(1,'James',25,default)
InsertIntoEmployee([Id],[Name],[Age],[Sex])Values(2,'James',25,default)
InsertIntoEmployee([Id],[Name],[Age],[Sex])Values(3,'James',25,default)
InsertIntoEmployee([Id],[Name],[Age],[Sex])Values(4,'Lisa',24,0)
InsertIntoEmployee([Id],[Name],[Age],[Sex])Values(5,'Lisa',24,0)
InsertIntoEmployee([Id],[Name],[Age],[Sex])Values(6,'Lisa',24,0)
InsertIntoEmployee([Id],[Name],[Age],[Sex])Values(7,'Mirsa',23,0)
InsertIntoEmployee([Id],[Name],[Age],[Sex])Values(8,'Mirsa',23,0)
InsertIntoEmployee([Id],[Name],[Age],[Sex])Values(9,'Mirsa',23,0)
InsertIntoEmployee([Id],[Name],[Age],[Sex])Values(10,'John',26,default)
InsertIntoEmployee([Id],[Name],[Age],[Sex])Values(11,'Abraham',28,default)
InsertIntoEmployee([Id],[Name],[Age],[Sex])Values(12,'Lincoln',30,default)
Select*Fromdbo.Employee
.csharpcode,.csharpcodepre
{
font-size:small;
color:black;
font-family:consolas,"CourierNew",courier,monospace;
background-color:#ffffff;
/*white-space:pre;*/
}
.csharpcodepre{margin:0em;}
.csharpcode.rem{color:#008000;}
.csharpcode.kwrd{color:#0000ff;}
.csharpcode.str{color:#006080;}
.csharpcode.op{color:#0000c0;}
.csharpcode.preproc{color:#cc6633;}
.csharpcode.asp{background-color:#ffff00;}
.csharpcode.html{color:#800000;}
.csharpcode.attr{color:#ff0000;}
.csharpcode.alt
{
background-color:#f4f4f4;
width:100%;
margin:0em;
}
.csharpcode.lnum{color:#606060;}
OK,首先我们使用最常见的方法:
DeleteFromEmployeeWhereNamein(
selectName
FromEmployeeGroupByNameHavingCount(Name)>1);
接着使用RowNumber():[/code]
DeleteTFrom(
SelectRow_Number()Over(PartitionBy[Name]OrderBy(SELECT0))AsRowNumber,*FromEmployee)T
WhereT.RowNumber>1;
.csharpcode,.csharpcodepre
{
font-size:small;
color:black;
font-family:consolas,"CourierNew",courier,monospace;
background-color:#ffffff;
/*white-space:pre;*/
}
.csharpcodepre{margin:0em;}
.csharpcode.rem{color:#008000;}
.csharpcode.kwrd{color:#0000ff;}
.csharpcode.str{color:#006080;}
.csharpcode.op{color:#0000c0;}
.csharpcode.preproc{color:#cc6633;}
.csharpcode.asp{background-color:#ffff00;}
.csharpcode.html{color:#800000;}
.csharpcode.attr{color:#ff0000;}
.csharpcode.alt
{
background-color:#f4f4f4;
width:100%;
margin:0em;
}
.csharpcode.lnum{color:#606060;}
还可以使用
WithDupsas
(
selectROW_NUMBER()Over(Partitionby[Name]Orderby(SELECT0))asrn
FROMEmployee
)
DeleteFromDups
Wherern>1;
.csharpcode,.csharpcodepre
{
font-size:small;
color:black;
font-family:consolas,"CourierNew",courier,monospace;
background-color:#ffffff;
/*white-space:pre;*/
}
.csharpcodepre{margin:0em;}
.csharpcode.rem{color:#008000;}
.csharpcode.kwrd{color:#0000ff;}
.csharpcode.str{color:#006080;}
.csharpcode.op{color:#0000c0;}
.csharpcode.preproc{color:#cc6633;}
.csharpcode.asp{background-color:#ffff00;}
.csharpcode.html{color:#800000;}
.csharpcode.attr{color:#ff0000;}
.csharpcode.alt
{
background-color:#f4f4f4;
width:100%;
margin:0em;
}
.csharpcode.lnum{color:#606060;}
再加上RANK()的CTE:
WITHDupsAs
(
Select[ID],[Name],[Age],[Sex]
,ROW_NUMBER()OVER(PartitionBy[Name]OrderBy(SELECT0))ASrn
,RANK()OVER(PartitionBy[Name]OrderBy(SELECT0))ASrnk
FROMEmployee
)
DELETEFROMDups
WHERErn<>rnk;
.csharpcode,.csharpcodepre
{
font-size:small;
color:black;
font-family:consolas,"CourierNew",courier,monospace;
background-color:#ffffff;
/*white-space:pre;*/
}
.csharpcodepre{margin:0em;}
.csharpcode.rem{color:#008000;}
.csharpcode.kwrd{color:#0000ff;}
.csharpcode.str{color:#006080;}
.csharpcode.op{color:#0000c0;}
.csharpcode.preproc{color:#cc6633;}
.csharpcode.asp{background-color:#ffff00;}
.csharpcode.html{color:#800000;}
.csharpcode.attr{color:#ff0000;}
.csharpcode.alt
{
background-color:#f4f4f4;
width:100%;
margin:0em;
}
.csharpcode.lnum{color:#606060;}
下面是这四个T-SQL查询的执行计划:
你可以看到没有用CTE的方法开销最大,主要是在TableSpool,这里开销了44%,TableSpool是一个物理运算符。
TableSpool运算符扫描输入,并将各行的一个副本放入隐藏的假脱机表中,此表存储在
注意上面的方法只是在重复记录比较少的情况下,如果重复记录多.DELETE将会非常慢,最好的方法是复制目标数据到另一个新表,删除原来的表,重命名新表为原来的表.或用临时表,这样还可以减少数据库事务日志.看下面的T-SQL:
WITHDupsAs
(
Select[ID],[Name],[Age],[Sex]
,ROW_NUMBER()OVER(PartitionBy[ID]OrderBy(SELECT0))ASrn
FROMEmployee
)
Select[ID],[Name],[Age],[Sex]
INTOdbo.EmployeeDupsTmp
FROMDups
WHERErn=1
DROPTABLEdbo.Employee;
EXECsp_rename'dbo.EmployeeDupsTmp','Employee'
希望这篇POST对您开发有帮助.
您可能感兴趣的文章:
.csharpcode,.csharpcodepre
{
font-size:small;
color:black;
font-family:consolas,"CourierNew",courier,monospace;
background-color:#ffffff;
/*white-space:pre;*/
}
.csharpcodepre{margin:0em;}
.csharpcode.rem{color:#008000;}
.csharpcode.kwrd{color:#0000ff;}
.csharpcode.str{color:#006080;}
.csharpcode.op{color:#0000c0;}
.csharpcode.preproc{color:#cc6633;}
.csharpcode.asp{background-color:#ffff00;}
.csharpcode.html{color:#800000;}
.csharpcode.attr{color:#ff0000;}
.csharpcode.alt
{
background-color:#f4f4f4;
width:100%;
margin:0em;
}
.csharpcode.lnum{color:#606060;}
作者:
出处:
本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利。
该文章也同时发布在我的独立博客中-
相关文章推荐
- SQL Server2008中删除重复记录的方法分享
- SQL Server2008中删除重复记录
- SQL Server2008中删除重复记录的方法分享
- SQL找出和删除一个表的重复记录
- MySQL大数据量表中删除重复记录
- 删除表中重复记录
- Oracle几种查找和删除重复记录的方法总结
- mysql删除表中某一字段重复的记录
- 在Excel2007中快速删除重复记录的方法
- SQL面试常见问题:查询及删除重复记录的方法
- 查询并删除重复记录的SQL语句
- MySql删除重复的记录
- 处理表重复记录(查询和删除)
- sql查询重复记录、删除重复记录方法大全
- oracle-快速删除重复的记录
- 用SQL删除重复记录的N种方法
- 处理表重复记录(查询和删除)
- 处理表重复记录(查询和删除)
- db2中删除重复记录的sql语句
- 查询及删除重复记录的方法