那曲檬骨新材料有限公司

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀(guān)看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

Linux系統(tǒng)下傳輸大文件的切割與合并實(shí)例分析

馬哥Linux運(yùn)維 ? 來(lái)源:馬哥Linux運(yùn)維 ? 作者:Escape ? 2021-07-02 11:47 ? 次閱讀

往往是因?yàn)?a target="_blank">網(wǎng)絡(luò)傳輸?shù)南拗疲瑢?dǎo)致很多時(shí)候,我們需要在 Linux 系統(tǒng)下進(jìn)行大文件的切割。這樣將一個(gè)大文件切割成為多個(gè)小文件,進(jìn)行傳輸,傳輸完畢之后進(jìn)行合并即可。

文件切割 - split

在 Linux 系統(tǒng)下使用 split 命令進(jìn)行大文件切割很方便

命令語(yǔ)法

使用實(shí)例

# 行切割文件

$ split -l 300000 users.sql /data/users_

# 使用數(shù)字后綴

$ split -d -l 300000 users.sql /data/users_

# 按字節(jié)大小分割

$ split -d -b 100m users.sql /data/users_

```bash

**幫助信息**

```bash

# 幫助信息

$ split --help

Usage: split [OPTION]。。. [FILE [PREFIX]]

Output pieces of FILE to PREFIXaa, PREFIXab, 。。.;

default size is 1000 lines, and default PREFIX is ‘x’。

With no FILE, or when FILE is -, read standard input.

Mandatory arguments to long options are mandatory for short options too.

-a, --suffix-length=N generate suffixes of length N (default 2) 后綴名稱(chēng)的長(zhǎng)度(默認(rèn)為2)

--additional-suffix=SUFFIX append an additional SUFFIX to file names

-b, --bytes=SIZE put SIZE bytes per output file 每個(gè)輸出文件的字節(jié)大小

-C, --line-bytes=SIZE put at most SIZE bytes of records per output file 每個(gè)輸出文件的最大字節(jié)大小

-d use numeric suffixes starting at 0, not alphabetic 使用數(shù)字后綴代替字母后綴

--numeric-suffixes[=FROM] same as -d, but allow setting the start value

-e, --elide-empty-files do not generate empty output files with ‘-n’ 不產(chǎn)生空的輸出文件

--filter=COMMAND write to shell COMMAND; file name is $FILE 寫(xiě)入到shell命令行

-l, --lines=NUMBER put NUMBER lines/records per output file 設(shè)定每個(gè)輸出文件的行數(shù)

-n, --number=CHUNKS generate CHUNKS output files; see explanation below 產(chǎn)生chunks文件

-t, --separator=SEP use SEP instead of newline as the record separator; 使用新字符分割

‘’ (zero) specifies the NUL character

-u, --unbuffered immediately copy input to output with ‘-n r/。。.’ 無(wú)需緩存

--verbose print a diagnostic just before each 顯示分割進(jìn)度

output file is opened

--help display this help and exit 顯示幫助信息

--version output version information and exit 顯示版本信息

The SIZE argument is an integer and optional unit (example: 10K is 10*1024)。

Units are K,M,G,T,P,E,Z,Y (powers of 1024) or KB,MB,。。. (powers of 1000)。

CHUNKS may be:

N split into N files based on size of input

K/N output Kth of N to stdout

l/N split into N files without splitting lines/records

l/K/N output Kth of N to stdout without splitting lines/records

r/N like ‘l’ but use round robin distribution

r/K/N likewise but only output Kth of N to stdout

GNU coreutils online help: 《http://www.gnu.org/software/coreutils/》

Full documentation at: 《http://www.gnu.org/software/coreutils/split》

or available locally via: info ‘(coreutils) split invocation’

文件合并 - cat

在 Linux 系統(tǒng)下使用 cat 命令進(jìn)行多個(gè)小文件的合并也很方便

命令語(yǔ)法

-n: #顯示行號(hào)

-e: #以$字符作為每行的結(jié)尾

-t: #顯示TAB字符(^I)

cat [-n] [-e] [-t] [輸出文件名]

使用實(shí)例

# 合并文件

$ cat /data/users_* 》 users.sql

幫助信息

# 幫助信息

$ cat --h

Usage: cat [OPTION]。。. [FILE]。。.

Concatenate FILE(s) to standard output.

With no FILE, or when FILE is -, read standard input.

-A, --show-all equivalent to -vET

-b, --number-nonblank number nonempty output lines, overrides -n

-e equivalent to -vE

-E, --show-ends display $ at end of each line

-n, --number number all output lines

-s, --squeeze-blank suppress repeated empty output lines

-t equivalent to -vT

-T, --show-tabs display TAB characters as ^I

-u (ignored)

-v, --show-nonprinting use ^ and M- notation, except for LFD and TAB

--help display this help and exit

--version output version information and exit

Examples:

cat f - g Output f‘s contents, then standard input, then g’s contents.

cat Copy standard input to standard output.

GNU coreutils online help: 《http://www.gnu.org/software/coreutils/》

Full documentation at: 《http://www.gnu.org/software/coreutils/cat》

or available locally via: info ‘(coreutils) cat invocation’

作者: Escape

文章出處:【微信公眾號(hào):馬哥Linux運(yùn)維】

責(zé)任編輯:gt

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀(guān)點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • Linux
    +關(guān)注

    關(guān)注

    87

    文章

    11345

    瀏覽量

    210389

原文標(biāo)題:Linux 下大文件切割與合并

文章出處:【微信號(hào):magedu-Linux,微信公眾號(hào):馬哥Linux運(yùn)維】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    低空視頻傳輸在望獲實(shí)時(shí)linux系統(tǒng)上的應(yīng)用

    望獲實(shí)時(shí)linux系統(tǒng)因其高確定性和低延遲的特性,在低空視頻傳輸中扮演著關(guān)鍵角色。低空經(jīng)濟(jì)涵蓋無(wú)人機(jī)物流、農(nóng)業(yè)監(jiān)控、低空交通管理等場(chǎng)景,這些場(chǎng)景對(duì)視頻傳輸的實(shí)時(shí)性、可靠性和高效性有極高
    的頭像 發(fā)表于 01-24 17:21 ?162次閱讀

    防止根文件系統(tǒng)破壞,OverlayRootfs 讓你的設(shè)備更安全

    多個(gè)文件系統(tǒng)合并成一個(gè)單一的視圖,在Linux系統(tǒng)中廣泛應(yīng)用。使用OverlayRootfs的設(shè)備可以很輕松的實(shí)現(xiàn):根文件系統(tǒng)寫(xiě)保護(hù)、恢復(fù)
    的頭像 發(fā)表于 01-08 16:33 ?251次閱讀
    防止根<b class='flag-5'>文件系統(tǒng)</b>破壞,OverlayRootfs 讓你的設(shè)備更安全

    Linux文件查找

    Linux文件查找 1.find查找概述 為什么要有文件查找,因?yàn)楹芏鄷r(shí)候我們可能會(huì)忘了某個(gè)文件所在的位置,此時(shí)就需要通過(guò)find來(lái)查找。 find命令可以根據(jù)不同的條件來(lái)進(jìn)行查找
    的頭像 發(fā)表于 12-03 17:09 ?352次閱讀

    盤(pán)點(diǎn)Linux系統(tǒng)中的常見(jiàn)命令

    作為運(yùn)維同學(xué)怎能不知道Linux系統(tǒng)中的lsmod、lsof、lspci、lsscsi命令呢,今天就來(lái)盤(pán)一盤(pán)她及實(shí)例
    的頭像 發(fā)表于 12-03 09:48 ?364次閱讀
    盤(pán)點(diǎn)<b class='flag-5'>Linux</b><b class='flag-5'>系統(tǒng)</b>中的常見(jiàn)命令

    Linux文件壓縮打包的各種姿勢(shì)

    1.文件打包與壓縮 1.什么是文件壓縮? 將多個(gè)文件或目錄合并成為一個(gè)特殊的文件。比如: 搬家…腦補(bǔ)畫(huà)面 img. 2.為什么要對(duì)
    的頭像 發(fā)表于 12-02 09:25 ?273次閱讀

    如何使用SFTP傳輸大文件

    在當(dāng)今的數(shù)字化時(shí)代,大文件傳輸變得越來(lái)越常見(jiàn)。無(wú)論是企業(yè)數(shù)據(jù)遷移、遠(yuǎn)程備份還是內(nèi)容分發(fā),都需要一種既安全又高效的文件傳輸方式。SFTP作為一種基于SSH的文件傳輸協(xié)議,提供了一種加密的傳輸
    的頭像 發(fā)表于 11-13 14:11 ?967次閱讀

    Linux文件系統(tǒng)的掛載過(guò)程

    Linux文件系統(tǒng)(rootfs)是Linux系統(tǒng)中所有其他文件系統(tǒng)和目錄的起點(diǎn),它是內(nèi)核啟動(dòng)時(shí)掛載的第一個(gè)
    的頭像 發(fā)表于 10-05 16:50 ?516次閱讀

    如何構(gòu)建Linux文件系統(tǒng)

    構(gòu)建Linux文件系統(tǒng)是一個(gè)涉及多個(gè)步驟和概念的過(guò)程,它對(duì)于Linux系統(tǒng)的啟動(dòng)和運(yùn)行至關(guān)重要。
    的頭像 發(fā)表于 10-05 16:47 ?352次閱讀

    物聯(lián)網(wǎng)系統(tǒng)高速率WiFi傳輸方案_WIFI模塊詳解

    數(shù)百兆甚至千兆級(jí)別,相比其他無(wú)線(xiàn)通信技術(shù)具有顯著的速度優(yōu)勢(shì)。這使得WIFI模塊非常適合用于傳輸對(duì)時(shí)間和速度要求非常高的數(shù)據(jù),如高清視頻、大文件等。 廣泛的覆蓋范圍: WIFI路由器的傳輸范圍通常可以覆蓋數(shù)百平方米,甚至能在多個(gè)房
    的頭像 發(fā)表于 09-27 16:54 ?908次閱讀
    物聯(lián)網(wǎng)<b class='flag-5'>系統(tǒng)</b>高速率WiFi<b class='flag-5'>傳輸</b>方案_WIFI模塊詳解

    如何更改Linux文件系統(tǒng)終端顯示顏色

    自己制作的簡(jiǎn)單 Linux 文件系統(tǒng),你會(huì)發(fā)現(xiàn)終端顯示為黑白色,很不好看
    的頭像 發(fā)表于 08-12 17:29 ?707次閱讀
    如何更改<b class='flag-5'>Linux</b><b class='flag-5'>文件系統(tǒng)</b>終端顯示顏色

    如何修改buildroot和debian文件系統(tǒng)

    本文檔主要介紹在沒(méi)有編譯環(huán)境的情況下,如何修改buildroot和debian文件系統(tǒng)方法,如在buildroot文件系統(tǒng)中添加文件、修改目錄等文件操作,在debian
    的頭像 發(fā)表于 07-22 17:46 ?545次閱讀
    如何修改buildroot和debian<b class='flag-5'>文件系統(tǒng)</b>

    Linux高級(jí)文件系統(tǒng)管理詳解

    階的文件系統(tǒng)就得要學(xué)習(xí),本章我們會(huì)介紹磁盤(pán)陣列 (RAID),及邏輯卷軸文件系統(tǒng) (LVM),這些工具都可以幫助你管理與維護(hù)使用者可用的磁盤(pán)容量.
    的頭像 發(fā)表于 07-16 16:31 ?433次閱讀

    linux--sysfs文件系統(tǒng)

    sysfs文件系統(tǒng) sysfs,全稱(chēng)為System Filesystem,是一個(gè)由Linux內(nèi)核實(shí)現(xiàn)的虛擬文件系統(tǒng)。它扮演著一個(gè)橋梁的角色,將內(nèi)核中的設(shè)備和驅(qū)動(dòng)程序信息以文件的形式呈現(xiàn)
    的頭像 發(fā)表于 07-08 11:37 ?1005次閱讀
    <b class='flag-5'>linux</b>--sysfs<b class='flag-5'>文件系統(tǒng)</b>

    esp32如何一次性讀取大文件數(shù)據(jù)?

    esp32沒(méi)有提供數(shù)據(jù)庫(kù)讀寫(xiě)的例子,最近有個(gè)大文件,無(wú)法一次性讀出,請(qǐng)問(wèn),怎么讀取,json中一部分json數(shù)組。然后修改完了以后,在寫(xiě)入進(jìn)去?
    發(fā)表于 06-25 06:52

    Linux系統(tǒng)如何擴(kuò)展文件系統(tǒng)

    當(dāng)數(shù)據(jù)盤(pán)沒(méi)有創(chuàng)建分區(qū),只在設(shè)備上創(chuàng)建了文件系統(tǒng)。或者格式化了硬盤(pán),就直接mount上系統(tǒng)使用。
    的頭像 發(fā)表于 02-21 09:53 ?882次閱讀
    百家乐记牌器| 老钱庄百家乐官网的玩法技巧和规则 | 什么是百家乐官网赌博| 代理百家乐试玩| 百家乐官网三多注码法| 全讯网程序| 大地百家乐官网的玩法技巧和规则| 桃园市| 百家乐庄闲出现几| 联众百家乐官网的玩法技巧和规则| 金沙国际娱乐城| 杰克百家乐官网玩法| 顶级赌场真假的微博| 永利百家乐开户| 淮滨县| 678百家乐博彩娱乐场| 玩百家乐官网新澳门娱乐城| 博彩公司大全| 赌博百家乐下载| 百家乐官网娱乐真钱游戏| 巴登娱乐城开户| 百家乐三宝| 博之道百家乐官网技巧| 曲靖市| 大发888作弊| 破战百家乐的玩法技巧和规则| 百家乐官网最佳打| 瑞博| 金百家乐的玩法技巧和规则| 百家乐路子分析| 百家乐官网一直下注庄家| 斗地主棋牌游戏| 黄金会百家乐赌城| 百家乐官网园能贷款吗| 百家乐官网娱乐城棋牌| 大发888娱乐城下载新澳博| 百家乐破解方法技巧| 百家乐官网德州| 百家乐官网视频麻将游戏| 永利娱乐| 大发888下载安装|