python实现文本去重且不打乱原本顺序
代码也是在网上找的，效率挺不错的，特别适合字典文件的去重
#coding=utf-8 importsys defopen_txt():#打开TXT文本写入数组 try: xxx=file(sys.argv[1],'r') forxxx_lineinxxx.readlines(): passlist.append(xxx_line) xxx.close() except: return0 defwrite_txt():#打开TXT文本写入数组 try: yyy=file(sys.argv[2],'w') foriinlist_passwed: yyy.write(i) yyy.close() except: return0 globalpasslist#声明全局变量 passlist=[]#用户名：anonymous密码为空 open_txt()#TXT导入数组 #passlist=list(set(passlist))#python列表去重 globallist_passwed#列表去重，不打乱原来的顺序 list_passwed=[] foriinpasslist: ifinotinlist_passwed: list_passwed.append(i) write_txt()
python读取TXT到数组列表去重，不打乱原来的顺序
####################################################################
#qq:316118740
#BLOG:http://hi.baidu.com/alalmn
#python读取TXT到数组列表去重，不打乱原来的顺序
#刚学写的不好请大家见谅
####################################################################
defopen_txt():#打开TXT文本写入数组
try:
infile=file('admin.txt','r')
xxx=file('admin.txt','r')
forxxx_lineinxxx.readlines():
passlist.append(xxx_line)
xxx.close()
except:
return0
deflist_del():#清空list列表
try:
i=0#得到list的第一个元素
whilei<len(passlist):
delpasslist[i]
dellist_passwed[i]
except:
return0
######################################
globalpasslist#声明全局变量
passlist=[]#用户名：anonymous密码为空
www_cj(www)#域名拆解
open_txt()#TXT导入数组
#passlist=list(set(passlist))#python列表去重
globallist_passwed#列表去重，不打乱原来的顺序
list_passwed=[]
foriinpasslist:
ifinotinlist_passwed:
list_passwed.append(i)
######################################遍历数组组合出密码
I1=0#得到list的第一个元素
whileI1<len(list_passwed):
print"WWWWWWWWWWW",I1
ifI1==len(list_passwed):
break#退出循环
I2=0#得到list的第一个元素
whileI2<len(list_passwed):
print"1111:",list_passwed[I1],"2222:",list_passwed[I2]
I2=I2+1#二层
I1=I1+1#一层
######################################
补充
#-*-coding:utf-8-*-
'''
只使用与较小的文件，比较大的文件运行时间长
'''
defquchong(infile,outfile):
infopen=open(infile,'r',encoding='utf-8')
outopen=open(outfile,'w',encoding='utf-8')
lines=infopen.readlines()
list_1=[]
forlineinlines:
iflinenotinlist_1:
list_1.append(line)
outopen.write(line)
infopen.close()
outopen.close()
quchong("源文件路径","目标文件路径")
本文实例讲述了python读取TXT到数组及列表去重后按原来顺序排序的方法。分享给大家供大家参考。