今日、RAID ファイルのインデックスを更新するためにファイルシステムのインデックス作成スクリプトを実行しましたが、4 時間後に次のエラーでクラッシュしました。
[md5:] 241613/241627 97.5%
[md5:] 241614/241627 97.5%
[md5:] 241625/241627 98.1%
Creating missing list... (79570 files missing)
Creating new files list... (241627 new files)
<--- Last few GCs --->
11629672 ms: Mark-sweep 1174.6 (1426.5) -> 1172.4 (1418.3) MB, 659.9 / 0 ms [allocation failure] [GC in old space requested].
11630371 ms: Mark-sweep 1172.4 (1418.3) -> 1172.4 (1411.3) MB, 698.9 / 0 ms [allocation failure] [GC in old space requested].
11631105 ms: Mark-sweep 1172.4 (1411.3) -> 1172.4 (1389.3) MB, 733.5 / 0 ms [last resort gc].
11631778 ms: Mark-sweep 1172.4 (1389.3) -> 1172.4 (1368.3) MB, 673.6 / 0 ms [last resort gc].
<--- JS stacktrace --->
==== JS stack trace =========================================
Security context: 0x3d1d329c9e59 <JS Object>
1: SparseJoinWithSeparatorJS(aka SparseJoinWithSeparatorJS) [native array.js:~84] [pc=0x3629ef689ad0] (this=0x3d1d32904189 <undefined>,w=0x2b690ce91071 <JS Array[241627]>,L=241627,M=0x3d1d329b4a11 <JS Function ConvertToString (SharedFunctionInfo 0x3d1d3294ef79)>,N=0x7c953bf4d49 <String[4]\: ,\n >)
2: Join(aka Join) [native array.js:143] [pc=0x3629ef616696] (this=0x3d1d32904189 <undefin...
FATAL ERROR: CALL_AND_RETRY_LAST Allocation failed - JavaScript heap out of memory
1: node::Abort() [/usr/bin/node]
2: 0xe2c5fc [/usr/bin/node]
3: v8::Utils::ReportApiFailure(char const*, char const*) [/usr/bin/node]
4: v8::internal::V8::FatalProcessOutOfMemory(char const*, bool) [/usr/bin/node]
5: v8::internal::Factory::NewRawTwoByteString(int, v8::internal::PretenureFlag) [/usr/bin/node]
6: v8::internal::Runtime_SparseJoinWithSeparator(int, v8::internal::Object**, v8::internal::Isolate*) [/usr/bin/node]
7: 0x3629ef50961b
サーバーには 16GB の RAM と 24GB の SSD スワップが搭載されています。スクリプトが 36GB のメモリを超えたとは到底考えられません。少なくとも、そうすべきではありません。
スクリプトは、ファイルのメタデータ (変更日、権限など、ビッグデータなし) を含むオブジェクトの配列として保存されたファイルのインデックスを作成します。
完全なスクリプトコードは次のとおりです:http://pastebin.com/mjaD76c3
過去にこのスクリプトで奇妙なノードの問題を経験したことがあり、たとえば、文字列などの大きなファイルで作業しているときにノードが不具合を起こしたため、インデックスを複数のファイルに分割する必要がありました。巨大なデータセットで nodejs のメモリ管理を改善する方法はありますか?
ベストアンサー1
私の記憶が正しければ、手動で増やさない限り、V8 のメモリ使用量には約 1.7 GB という厳格な標準制限があります。
弊社の製品の 1 つでは、デプロイ スクリプトで次のソリューションを採用しました。
node --max-old-space-size=4096 yourFile.js
新しいスペース コマンドもありますが、ここで読んだところによると:V8 ガベージコレクションツアー新しいスペースは新しく作成された短期データのみを収集し、古いスペースには参照されるすべてのデータ構造が含まれます。これは、この場合に最適なオプションです。