色综合图-色综合图片-色综合图片二区150p-色综合图区-玖玖国产精品视频-玖玖香蕉视频

您的位置:首頁(yè)技術(shù)文章
文章詳情頁(yè)

python - pyspider爬取了接近1G的數(shù)據(jù),無(wú)法導(dǎo)出csv?

瀏覽:107日期:2022-08-09 10:42:46

問(wèn)題描述

已經(jīng)增加虛擬機(jī)內(nèi)存至2g,依然無(wú)法導(dǎo)出。

問(wèn)題解答

回答1:

一般是分文件導(dǎo)出的,如果一個(gè)單位的數(shù)據(jù)大約是1M的話,就分成1024個(gè)文件。

另外,合成1G的csv也是不合實(shí)際的,因?yàn)?G的csv幾乎是打不開的。如果實(shí)在是要合成1G的話,把導(dǎo)出的一千多個(gè)文件再合成為一份CSV即可,文件合成python很容易實(shí)現(xiàn)。

回答2:

1G的數(shù)據(jù)月CSV處理本身就不太合理了。試試看sqlite3。

回答3:

8G一樣不夠,建議選擇數(shù)據(jù)庫(kù)作為存儲(chǔ)方案,1G規(guī)模的CSV是沒(méi)有存在的意義的。

回答4:

用ftp內(nèi)網(wǎng)下載飛快.我前兩天傳8個(gè)g.感覺(jué)就是幾分鐘就下載好了

標(biāo)簽: Python 編程
主站蜘蛛池模板: 亚洲一区 欧美 | 国产精品视频99 | 女人张开腿等男人桶免费视频 | 亚洲一区二区三区不卡在线播放 | 亚洲精品一区国产二区 | 国产精品久久视频 | 亚洲国产成人久久笫一页 | 国产香蕉国产精品偷在线观看 | 亚洲第一免费视频 | 在线综合视频 | 欧美久草在线 | 一本色道久久爱88av | 久久精品国产亚洲欧美 | 免费不卡毛片 | 日本a级毛片视频播放 | 成年人免费小视频 | 午夜欧美日韩在线视频播放 | 日产日韩亚洲欧美综合搜索 | 在线播放亚洲美女视频网站 | 国产日本在线 | 亚洲精品高清久久 | 喷潮白浆直流在线播放 | 国产一区二区三区四区波多野结衣 | 欧美一级毛片片免费孕妇 | 一区毛片| 国产精品莉莉欧美自在线线 | 中文乱码字幕午夜无线观看 | 日本成a人片在线观看网址 日本成年人视频网站 | 99视频一区| 欧美白人最猛性xxxxx | 日本免费一区视频 | 国产毛片一区二区三区精品 | 国产亚洲一级精品久久 | 最新日韩欧美不卡一二三区 | 极品精品国产超清自在线观看 | 久久精品在线免费观看 | 久久成人免费观看草草影院 | 97精品久久久久中文字幕 | www.久久综合 | 在线视频 国产交换 | 美女张开腿让男人桶的 视频 |