DDR爱好者之家 Design By 杰米
先说下:所谓的大文件并不是压缩文件有多大,几十兆的文件而是解压后几百兆。其中就遇到解压不成功的情况.、读小文件时成功,大文件时失败等
def unzip_to_txt_plus(zipfilename):
zfile = zipfile.ZipFile(zipfilename, 'r')
for filename in zfile.namelist():
data = zfile.read(filename)
# data = data.decode('gbk').encode('utf-8')
data = data.decode('gbk', 'ignore').encode('utf-8')
file = open(filename, 'w+b')
file.write(data)
file.close()
if __name__ == '__main__':
zipfilename = "E:\\share\\python_excel\\zip_to_database\\20171025.zip"
unzip_to_txt_plus(zipfilename)
注意参数:‘ignore' ,因为默认是严格编码,如果不加这个参数就会报错。
因为该函数已经把文件编成utf-8 所以后面读取文件时成功,下面贴出读取大文件代码(忽略数据库相关)
# - coding: utf-8 -
import csv
import linecache
import xlrd
import MySQLdb
def txt_todatabase(filename, linenum):
# with open(filename, "r", encoding="gbk") as csvfile:
# Read = csv.reader(csvfile)
# count =0
# for i in Read:
# # print(i)
# count += 1
# # print('hello')
# print(count)
count = linecache.getline(filename, linenum)
print(count)
# with open("new20171028.csv", "w", newline="") as datacsv:
# # dialect为打开csv文件的方式,默认是excel,delimiter="\t"参数指写入的时候的分隔符
# csvwriter = csv.writer(datacsv, dialect=("excel"))
# # csv文件插入一行数据,把下面列表中的每一项放入一个单元格(可以用循环插入多行)
# csvwriter.writerow(["A", "B", "C", "D"])
def bigtxt_read(filename):
with open(filename, 'r', encoding='utf-8') as data:
count =0
while 1:
count += 1
line = data.readline()
if 1000000 == count:
print(line)
if not line:
break
print(count)
if __name__ == '__main__':
filename = '20171025.txt'
txt_todatabase(filename, 1000000)
bigtxt_read(filename)
经过对比,发现两个速度基本一样快。两百万行的数据是没压力的。
以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持。
DDR爱好者之家 Design By 杰米
广告合作:本站广告合作请联系QQ:858582 申请时备注:广告合作(否则不回)
免责声明:本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除!
免责声明:本站资源来自互联网收集,仅供用于学习和交流,请遵循相关法律法规,本站一切资源不代表本站立场,如有侵权、后门、不妥请联系本站删除!
DDR爱好者之家 Design By 杰米
暂无评论...
RTX 5090要首发 性能要翻倍!三星展示GDDR7显存
三星在GTC上展示了专为下一代游戏GPU设计的GDDR7内存。
首次推出的GDDR7内存模块密度为16GB,每个模块容量为2GB。其速度预设为32 Gbps(PAM3),但也可以降至28 Gbps,以提高产量和初始阶段的整体性能和成本效益。
据三星表示,GDDR7内存的能效将提高20%,同时工作电压仅为1.1V,低于标准的1.2V。通过采用更新的封装材料和优化的电路设计,使得在高速运行时的发热量降低,GDDR7的热阻比GDDR6降低了70%。
更新日志
2025年10月25日
2025年10月25日
- 小骆驼-《草原狼2(蓝光CD)》[原抓WAV+CUE]
- 群星《欢迎来到我身边 电影原声专辑》[320K/MP3][105.02MB]
- 群星《欢迎来到我身边 电影原声专辑》[FLAC/分轨][480.9MB]
- 雷婷《梦里蓝天HQⅡ》 2023头版限量编号低速原抓[WAV+CUE][463M]
- 群星《2024好听新歌42》AI调整音效【WAV分轨】
- 王思雨-《思念陪着鸿雁飞》WAV
- 王思雨《喜马拉雅HQ》头版限量编号[WAV+CUE]
- 李健《无时无刻》[WAV+CUE][590M]
- 陈奕迅《酝酿》[WAV分轨][502M]
- 卓依婷《化蝶》2CD[WAV+CUE][1.1G]
- 群星《吉他王(黑胶CD)》[WAV+CUE]
- 齐秦《穿乐(穿越)》[WAV+CUE]
- 发烧珍品《数位CD音响测试-动向效果(九)》【WAV+CUE】
- 邝美云《邝美云精装歌集》[DSF][1.6G]
- 吕方《爱一回伤一回》[WAV+CUE][454M]