如何使用python批量修改文本文件编码格式
【资料图】
使用python批量修改文本文件编码格式
把文本文件的编码格式进行批量幻化,比如ascii, gb2312, utf8等,相互转化,字符集的大小来看,utf8>gb2312>ascii,因此最好把gb2312转为utf8,否则容易出现乱码。
gb2312和utf-8的主要区别:
关于字库规模: UTF-8 > gb2312(utf8字全而gb2312只有汉字)
关于保存大小: UTF-8> gb2312 (utf8更臃肿、加载更慢,gb2312更小巧,加载更快)
关于适用范围:gb2312主要在中国大陆地区使用,是一个本地化的字符集,UTF-8包含全世界所有国家需要用到的字符,是国际编码,通用性强。UTF-8编码的文字可以在各国支持UTF8字符集的浏览器上显示。
import sys import chardet import codecs def get_encoding_type(fileName): """print the encoding format of a txt file """ with open(fileName, "rb") as f: data = f.read() encoding_type = chardet.detect(data) #print(encoding_type) return encoding_type # such as {"encoding": "GB2312", "confidence": 0.99, "language": "Chinese"} def convert_encoding_type(filename_in, filename_out, encode_in="gb2312", encode_out="utf-8"): """convert encoding format of txt file """ #filename_in = "flash.c" #filename_out = "flash_gb2312.c" #encode_in = "utf-8" # 输入文件的编码类型 #encode_out = "gb2312"# 输出文件的编码类型 with codecs.open(filename=filename_in, mode="r", encoding=encode_in) as fi: data = fi.read() with open(filename_out, mode="w", encoding=encode_out) as fo: fo.write(data) fo.close() # with open(filename_out, "rb") as f: # data = f.read() # print(chardet.detect(data)) if __name__=="__main__": # fileName = argv[1] # get_encoding_type(fileName) # convert_encoding_type(fileName, fileName) filename_of_files = sys.argv[1] #the file contain full file path at each line with open(filename_of_files, "rb") as f: lines = f.readlines() for line in lines: fileName = line[:-1] encoding_type = get_encoding_type(fileName) if encoding_type["encoding"]=="GB2312": print(encoding_type) convert_encoding_type(fileName, fileName) print(fileName)
补充:python实现文件批量转为utf-8格式
python实现文件批量转为utf-8格式
xml_path = "./" with open(xml_path , "rb+") as f: content = f.read() codeType = detect(content)["encoding"] content = content.decode(codeType, "ignore").encode("utf8") fp.seek(0) fp.write(content)
到此这篇关于如何使用python批量修改文本文件编码格式的文章就介绍到这了,更多相关python批量修改文本文件编码格式内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!
关键词:
X 关闭
X 关闭
- 15G资费不大降!三大运营商谁提供的5G网速最快?中国信通院给出答案
- 2联想拯救者Y70发布最新预告:售价2970元起 迄今最便宜的骁龙8+旗舰
- 3亚马逊开始大规模推广掌纹支付技术 顾客可使用“挥手付”结账
- 4现代和起亚上半年出口20万辆新能源汽车同比增长30.6%
- 5如何让居民5分钟使用到各种设施?沙特“线性城市”来了
- 6AMD实现连续8个季度的增长 季度营收首次突破60亿美元利润更是翻倍
- 7转转集团发布2022年二季度手机行情报告:二手市场“飘香”
- 8充电宝100Wh等于多少毫安?铁路旅客禁止、限制携带和托运物品目录
- 9好消息!京东与腾讯续签三年战略合作协议 加强技术创新与供应链服务
- 10名创优品拟通过香港IPO全球发售4100万股 全球发售所得款项有什么用处?