python按照list中字典的某key去重的示例代碼
一、需求說明
當(dāng)我們寫爬蟲的時候,經(jīng)常會遇到j(luò)son格式的數(shù)據(jù),它通常是如下結(jié)構(gòu):
data = [{’name’:’小K’,’score’:100}, {’name’:’小J’,’score’:98}, {’name’:’小Q’,’score’:95}, {’name’:’小K’,’score’:100}]
很顯然名字為小K的數(shù)據(jù)重復(fù)了,我們需要進(jìn)行去重。通常對于list的去重,我們可以用set()函數(shù),即:
data = list(set(data))
然而,運行之后你會發(fā)現(xiàn)它報錯了:
list里的數(shù)據(jù)不能是dict類型,那么該怎么辦呢?
二、我的解決方案
定義一個去重的函數(shù)即可,根據(jù)里面的某個key,對數(shù)據(jù)進(jìn)行篩選去重:
def DelRepeat(data,key): new_data = [] # 用于存儲去重后的list values = [] # 用于存儲當(dāng)前已有的值 for d in data: if d[key] not in values: new_data.append(d) values.append(d[key]) return new_data
參數(shù)data為需要去重的list,key為去重的健(即按照哪個key來去重),去重后結(jié)果為:
[{’name’: ’小K’, ’score’: 100}, {’name’: ’小J’, ’score’: 98}, {’name’: ’小Q’, ’score’: 95}]
成功去重!
到此這篇關(guān)于python按照list中字典的某key去重的示例代碼的文章就介紹到這了,更多相關(guān)python list字典的某key去重內(nèi)容請搜索好吧啦網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持好吧啦網(wǎng)!
相關(guān)文章:
