it-swarm-ja.com

ページファイルのサイズを大幅に増やすリスクはありますか?

ディープラーニングのためにデータセット全体をメモリに収めるには64GBが必要ですが、RAMは12GBしかありません。仮想メモリは次善の選択肢であり、ページファイルのサイズを大きくすることで効果的に増やすことができることを学びました-しかし このソース は、システムの不安定性を高めることを示唆しています。

他のすべての情報源は反対のことを述べており、SSDの寿命が短くなっていることだけを指摘していますが、これは問題ではありませんが、私はチャンスを逃しません。とはいえ、不安定さを生じることなくページファイルのサイズを増やすことができる量に制限はありますか?


追加情報:Win10 OS、26GB OS割り当てページファイルサイズ(52GB + c、c =安全な最小値が必要)


PRE-ANSWER:説明どおりに進めました ここ 、〜70GB メモリマップド データ;平均的なデータロードの高速化は42-FOLDです。この数字は〜130にぶつかる可能性があると思いますが、誰かが this と答えない限り、今は機能しません。最後に、この持続可能であり、 劣化しない SSDであり、使用率は99.9%以上です。最終的に詳細を含む完全な回答を投稿します。

2

ページファイルは、RAMディスクへの出力とその逆のデータの4Kブロック(ページと呼ばれる)のスワッピング(ページング)をサポートします。

CPUが実行しているコードは、物理RAMに存在する必要があります。また、Windowsは、他のOSと同様に、「未使用」RAMを使用して、フラッシュされるまでディスクI/Oをキャッシュします(ディスクデータを読み取って再読み取りしただけの場合は、そのまま残る可能性があります)。 「未使用」RAM長い間)。

マルチタスクオペレーティングシステムでは、ユーザー入力など、最近発生していないイベントを待機しているタスクが所有するコードが存在する場合があります。これは、システムパフォーマンスがこれをディスクファイルにページアウトし、イベントが発生したときにコールバックするのに役立ちます。これにより、コンピューター上で実際に何かを実行しているコードが空きRAMを活用できるようになります。

もちろん、オペレーティングシステムは、実際に何かを実行している可能性のあるコードをページングできますが、システムよりも多くのメモリの突然の要求があった場合、優先度は低くなります。これは、ほとんどの場合、プログラムを完全に拒否するよりも優れています。メモリの場合、使用可能なものよりも物理的RAM)が多すぎない場合。

ある時点で、そこにないメモリを割り当て続けると、プログラムは、コンピュータで実行されている基本的なWindowsサービスやその他のプログラムと競合することになります。さらに、未使用のRAMをすべて削除したため、ディスクI/Oはまったくキャッシュされません。システムプロセスを含む、システム上のすべてのプロセスに影響を与えるパフォーマンスの大幅な低下が発生します。

有害であると説明されている不安定性は、基本的なWindows関数がディスクからRAMに行き来し、機械学習プログラムや他のプログラムと交換するために応答しなくなることが原因である可能性があります。たとえば、デスクトップアイコンの応答には数分かかる場合があります。そのため、システムが狂ったようにスワッピングを実行しているときにシステムが完全にフリーズし、最終的に応答すると思われる場合があります。

2
LawrenceC

プログラムの実行中は、プログラムがそのデータセット全体に行き渡っているようです。それは途方もない量のスワッピングを引き起こすでしょう。高速SSDはRAM速度の10%になる可能性があると指摘しましたが、システムがディスクから4096バイトを読み取りている間に、プログラムが100バイトのデータを必要としていた可能性があります。10%実行に10倍の時間がかかるという意味ではありません。

さらに、プログラムがデータを処理しながらデータを変更している場合、状況はさらに悪化します。ダーティページが書き込まれます。データの変更が多いと、スペアブロックのドライブが使い果たされ、書き込み速度が非常に悪くなる可能性があります。 (ページは書き込まれる前に消去する必要があります。最後に、現在のデータは見つかりませんが、かなりの数のミリ秒で測定された操作であることがわかりました。通常、ドライブは空のページを提供し続けます。書き込みを処理するために周りにありますが、書き込みがページをワイプできるよりも速く着信すると、プールが使い果たされ、消しゴムがページで終了するまで書き込みを待機する必要があります。)

0
Loren Pechtel