public abstract class AbstractResourceLocalizer extends java.lang.Object implements SmartResourceLocalizer
ResourceLocalizer の基本実装。| コンストラクターと説明 |
|---|
AbstractResourceLocalizer(org.apache.hadoop.conf.Configuration configuration) 新しい抽象リソースローカライザーをインスタンス化します。 |
AbstractResourceLocalizer(org.apache.hadoop.conf.Configuration configuration, org.apache.hadoop.fs.Path stagingDirectory) 新しい抽象リソースローカライザーをインスタンス化します。 |
| 修飾子と型 | メソッドと説明 |
|---|---|
boolean | clean() 配布プロセス中に作成されたすべての残りをクリーンアップします。 |
void | copy() リソースローカライザーがファイルをファイルシステムにコピーする知識を持っている場合、このメソッドを呼び出すと、その特定の機能のすべてのタスクが効果的に実行されるはずです。 |
protected boolean | deleteStagingEntries() ステージングエントリを削除します。 |
void | distribute() 基礎となる実装がファイルシステムでの操作やその他の準備作業を実行する必要がある場合、このメソッドを呼び出すと、実装は ResourceLocalizer.getResources() コマンドからリソースを返す準備が整います。 |
protected abstract void | doFileCopy(org.apache.hadoop.fs.FileSystem fs) ファイルのコピーを実行します。 |
protected abstract java.util.Map<java.lang.String,org.apache.hadoop.yarn.api.records.LocalResource> | doFileTransfer(org.apache.hadoop.fs.FileSystem fs) ファイル転送を行います。 |
org.apache.hadoop.conf.Configuration | getConfiguration()Hadoop 構成を取得します。 |
java.util.concurrent.locks.ReentrantLock | getLock() ロックを取得します。 |
java.util.Map<java.lang.String,org.apache.hadoop.yarn.api.records.LocalResource> | getResources()LocalResource インスタンスのマップを取得します。 |
protected boolean | isCopied() コピーされているかどうかを確認します。 |
protected boolean | isDistributed() 配布されているかどうかを確認します。 |
void | resolve() 配布プロセスを開始する前に、リソースを手動で解決します。 |
protected org.apache.hadoop.fs.Path | resolveStagingDirectory() ランタイムステージングディレクトリを解決します。 |
protected void | setCopied(boolean copied) コピーしたものを設定します。 |
protected void | setDistributed(boolean distributed) 配布を設定します。 |
void | setStagingDirectory(org.apache.hadoop.fs.Path stagingDirectory) ステージングディレクトリを設定します。 |
void | setStagingId(java.lang.String stagingId) ステージング ID を設定します。 |
public AbstractResourceLocalizer(org.apache.hadoop.conf.Configuration configuration)
configuration - 構成 public AbstractResourceLocalizer(org.apache.hadoop.conf.Configuration configuration,
org.apache.hadoop.fs.Path stagingDirectory)configuration - 構成 stagingDirectory - ステージングディレクトリ public java.util.Map<java.lang.String,org.apache.hadoop.yarn.api.records.LocalResource> getResources()
ResourceLocalizerLocalResource インスタンスのマップを取得します。LocalResource の基礎となるインスタンスは、リソースサイズとタイムスタンプを含めて完全に初期化する必要があります。 このメソッドを呼び出すと、LocalResource を返すために必要なすべての準備作業が実行されます。
ResourceLocalizer の getResources LocalResource インスタンスを含むマップ public void copy()
SmartResourceLocalizerSmartResourceLocalizer の copy public void distribute()
SmartResourceLocalizerResourceLocalizer.getResources() コマンドからリソースを返す準備が整います。実質的に、このメソッドを呼び出した場合の結果は、SmartResourceLocalizer.copy() メソッドと SmartResourceLocalizer.resolve() メソッドの両方を手動で呼び出した場合と同じになります。
SmartResourceLocalizer の distribute public void resolve()
SmartResourceLocalizerSmartResourceLocalizer の resolve public boolean clean()
SmartResourceLocalizerSmartResourceLocalizer の clean public void setStagingDirectory(org.apache.hadoop.fs.Path stagingDirectory)
SmartResourceLocalizerSmartResourceLocalizer の setStagingDirectory stagingDirectory - 新しいステージングディレクトリ public void setStagingId(java.lang.String stagingId)
SmartResourceLocalizerSmartResourceLocalizer.setStagingDirectory(Path) に設定された Path と一緒に使用され、一意のランタイムステージングパスを修正します。設定されていない場合、同じアプリケーションの同時インスタンスによってファイルが上書きされる可能性があります。SmartResourceLocalizer の setStagingId stagingId - 新しいステージング IDpublic org.apache.hadoop.conf.Configuration getConfiguration()
public java.util.concurrent.locks.ReentrantLock getLock()
protected abstract void doFileCopy(org.apache.hadoop.fs.FileSystem fs)
throws java.lang.Exceptionfs - FSjava.lang.Exception - 例外 protected abstract java.util.Map<java.lang.String,org.apache.hadoop.yarn.api.records.LocalResource> doFileTransfer(org.apache.hadoop.fs.FileSystem fs)
throws java.lang.Exceptionfs - FSjava.lang.Exception - 例外 protected boolean isDistributed()
protected void setDistributed(boolean distributed)
distributed - 新しい分散 protected boolean isCopied()
protected void setCopied(boolean copied)
copied - 新しいコピー protected org.apache.hadoop.fs.Path resolveStagingDirectory()
protected boolean deleteStagingEntries()