ネットワーク経由でビッグデータを複製する方法は?

ネットワーク経由でビッグデータを複製する方法は?

Centos 7を搭載したHP Microserverの第8世代がありますが、Bay AreaにはNTFSでインストールされた1台のハードドライブ(2TB)しかありません。

ネットワーク経由でローカルからファイル(一度に約100 GB)をコピーしようとしています。

私は以下を試しました:

  • 渡すSamba
  • 渡すSCP
  • 渡すRsync

この方法の一般的な問題は、通常、次のエラーメッセージです。

  • システムが読み取り専用でI \ Oエラーがあります(ハードドライブが問題を引き起こす可能性が高いため、交換しましたがわかりません)。
  • ディスクがいっぱいになっていて(今見た内容はを使用していますSamba)、ディスクは92%空です。
  • mkstemp失敗操作は許可されていません

それで私はビッグデータを複製するより良い方法があると思いました。そうですか?

また、これを試してみました。

rsync -rvz -e "ssh" * [email protected]:/folder

このエラーが発生しました。

rsync: writefd_unbuffered failed to write 16385 bytes [sender]: Broken pipe (32)
rsync: write failed on "/folder/movie.mkv": Input/output error (5)
rsync error: error in file IO (code 11) at receiver.c(322) [receiver=3.0.9]
rsync: connection unexpectedly closed (490 bytes received so far) [sender]
rsync error: error in rsync protocol data stream (code 12) at /BuildRoot/Library/Caches/com.apple.xbs/Sources/rsync/rsync-47/rsync/io.c(453) [sender=2.6.9]

急流の回答は、あまりにも多くのデータをコピーする唯一の効率的な方法ではありません。急流のないLinuxベースのソリューションが必要です。

-

修正する:

@zeppelinが4〜5 GBのファイルの代わりに1つの大容量ファイルを使用することを提案した後、次のように大容量アーカイブを作成しました。tar -zcvf movies.tar.gz *

アーカイブがある場合は、次の操作を行います。

ls -alh movies.tar.gz 
-rw-r--r--  1 Abude  staff    77G Nov 11 13:54 movies.tar.gz

私はrsync次の問題を経験しました。

rsync -avz -e 'ssh' --progress movies.tar.gz [email protected]:/nas/media
/etc/profile.d/lang.sh: line 19: warning: setlocale: LC_CTYPE: cannot change locale (UTF-8): No such file or directory
building file list ... 
1 file to consider
movies.tar.gz
 82671089587 100%   25.36MB/s    0:51:49 (xfer#1, to-check=0/1)
rsync: mkstemp "/nas/media/.movies.tar.gz.ezRUOM" failed: Operation not permitted (1)

sent 82698841857 bytes  received 42 bytes  26586993.06 bytes/sec
total size is 82671089587  speedup is 1.00
rsync error: some files could not be transferred (code 23) at /BuildRoot/Library/Caches/com.apple.xbs/Sources/rsync/rsync-47/rsync/main.c(992) [sender=2.6.9]

ベストアンサー1

主観的に言えば、大量のデータをコピーするには、個人的な急流が最良の選択肢の1つである可能性があります。

しかし、ここはTorrentチュートリアルのための場所ではありません。

あなたは見ることができますここたとえば、または同様のものを探します。

個人的な急流を作成する方法

おすすめ記事