DataFrame 删除重复数据 duplicated函数

1、导入相关的包   numpy  pandas  datetime

2、建立一个DataFrame

 C=pd.DataFrame({'a':['dog']*3+['fish']*3+['dog'],'b':[10,10,12,12,14,14,10]})

3、判断是否有重复项

用duplicated（ ）函数判断  

 C.duplicated()

4、有重复项，则可以用drop_duplicates()移除重复项

 C.drop_duplicates()

5、Duplicated（ ）和drop_duplicates（ ）方法是以默认的方式判断全部的列（上面的例子中是看两个变量a和b是否都是重复出现）。

我们也可以对特定的列进行重复项判断。

 C.duplicated(['a'])      C.drop_duplicates(['a'])

 C.duplicated(['b'])      C.drop_duplicates(['b'])