WOLFRAM

Wolfram言語 ＆ システムドキュメントセンター

"AWSBatch" (バッチ計算プロバイダ)

詳細

AWS Batchは，Amazon EC2の計算インスタンスの管理されたプールあるいは管理されていないプールで，ジョブをスケジュールする，コンテナベースのバッチ計算サービスである．
Wolfram言語で"AWSBatch"のバッチ計算プロバイダを使えるように設定するには，AWS Batchのバッチ計算プロバイダを設定するのワークフローに記載の指示に従われたい．
AWS Batchは，それぞれのジョブのvCPUの必要数に基づいて，ジョブをインスタンスにパックする．複数のジョブを単一のEC2インスタンスで同時に実行することが可能である．それぞれのジョブは専用のDockerコンテナで実行される．
"AWSBatch"のバッチ計算プロバイダは，ユーザ指定のAmazon S3バケットにジョブの入出力データを保存する．
"AWSBatch"のバッチ計算プロバイダは，Linuxベースのジョブのみをサポートする．

環境特性

以下の特性が"AWSBatch"プロバイダのRemoteBatchSubmissionEnvironmentオブジェクトでサポートされる．
  • "IOBucket"(required)ジョブの入出力データを保存するためのAmazon S3バケットの名前
    "JobDefinition"(required)送信されたジョブに使う，AWS Batchのジョブ定義のARN
    "JobQueue"(required)ジョブが送信される，AWS BatchのジョブキューのARN
    "ServiceObject"Automatic"AWS"サービスのServiceObject
    • "IOBucket"，"JobDefinition"，"JobQueue"の特性は，有効なRemoteBatchSubmissionEnvironmentオブジェクトを構築する必要がある．
    "ServiceObject"特性が省略されている（あるいはAutomaticに設定されている）場合には，サービスオブジェクトは自動的に構築され，ServiceConnect["AWS"]で接続される．
    "ServiceObject"特性が"New"に設定されている場合には，ServiceConnect["AWS","New"]で新しいサービス接続が作成され，保存されている接続や認証情報はどれも無視される．
    AWS Batchのバッチ計算プロバイダを設定するのワークフローに，自分のAWSアカウントに必要な環境リソースすべてを，自動化されたAWS CloudFormationテンプレートを使って作成する方法が記載されている．

    ジョブ設定

    "AWSBatch"のプロバイダを使う場合に，以下の設定がRemoteProviderSettingsオプションでサポートされる．
  • "GPUCount"InheritedGPUの数（整数） »
    "Memory"Automatic"InformationUnit"の数量あるいはメビバイトの数（整数） »
    "VCPUCount"InheritedvCPUの数（整数） »
    • "GPUCount"，"Memory"，"VCPUCount"の設定の値Inheritedは，供給されたRemoteBatchSubmissionEnvironment オブジェクトで指定された，AWS Batchのジョブ定義の値に対応する．
    "GPUCount"設定はAWS Batchに，最低でも使用可能なGPUの指定数を持つインスタンスにジョブをスケジュールし，ジョブコンテナ内でそのGPU数を使用可能にするように指示する．
    "Memory"設定はAWS Batchに，最低でも使用可能なメモリの指定量を持ち，別の実行中のジョブに割り当てられていないインスタンスにジョブをスケジュールするように指示する．これは，ジョブのメモリ消費においてハードリミットとしては働かない． »
    デフォルト設定"Memory"Automaticのとき，メモリの最低制限は，ジョブ定義と式Max[vCPUCount*,GPUCount*,]の値のうち，大きい方に設定される． »
    "VCPUCount"設定の値は，CPU時間をジョブコンテナ内のプロセスに対するホストインスタンスに割り当てる場合，Linuxカーネルスケジューラの重みとして使われる．固定数のvCPUがジョブコンテナ専用に指定されるとは限らない．
    RemoteBatchSubmitで送信された"Single"タイプのジョブ内では，ParallelEvaluate，ParallelMap等の関数は自動的に"VCPUCount"設定の値に等しい数のサブカーネルを起動する．この動作は，LaunchKernelsを明示的なカーネル数と一緒に呼び出すことによって無効にできる．
    "AWSBatch"プロバイダを使っているときには，RemoteBatchSubmitとRemoteBatchMapSubmitのTimeConstraintオプションの値は，少なくとも60秒でなければならない．TimeConstraintオプションはデフォルトで使用されているジョブ定義の"Execution timeout"値になる．

    ジョブの通知

    "AWSBatch"プロバイダは，ジョブの通知をサポートしない．

    ジョブステート

    "AWSBatch"プロバイダを使っている場合に，"JobStatus"のジョブ特性の値として以下の値が可能である．典型的なジョブが渡される順にリストされている．
  • "Submitted"送信されたジョブはまだAWS Batchのスケジューラによって評価されていない
    "Pending"ジョブは従属ステートが満たされるのを待っている
    "Runnable"ジョブは計算リソースが利用可能になるのを待っている
    "Starting"ジョブがインスタンスにスケジュールされ，そのコンテナの画像がダウンロードされている
    "Running"ジョブのコンテナが始められた
    "Succeeded"ジョブの実行に成功し，出力がアップロードされた
    "Failed"ジョブの実行に失敗した
    • "Running"ステートにあるジョブは，入力ファイルのダウンロード中，ジョブコードの評価中，あるいは出力データのアップロード中である．
    配列ジョブは，その構成要素である子のジョブすべてが成功する（その時点で"Succeeded"ステートに移行する）か，少なくとも1つの子のジョブに失敗する（その時点で"Failed"のステートに移行する）かするまで，"Pending"ステートのままである．
    ジョブステートについての詳細は，AWS Batchのドキュメントで見ることができる．

    ジョブ特性

    "AWSBatch"プロバイダを使っているときには，RemoteBatchJobObjectがサポートする標準特性に加えて，"Single"タイプのジョブオブジェクトから以下の特性が使用可能である．
  • "JobExitCode"ジョブコンテナ内のカーネルによって返される終了コード
    "JobLog"ジョブコンテナからのコンソールログ
    "JobStatusReason"ジョブが現在のステートにある理由を説明する文字列
    "ProviderJobID"AWSがジョブに対して提供する一意的な識別子
    • "AWSBatch"プロバイダを使っているときには，RemoteBatchJobObjectがサポートする標準特性に加えて，"Array"タイプのジョブオブジェクトから以下の特性が使用可能である．
  • "ChildJobExitCodes"各配列の子ジョブの"JobExitCode"特性
    "ChildJobStatusReasons"各配列の子ジョブの"JobStatusReason"特性
    "JobStatusReason"配列ジョブが現在のステートにある理由を説明する文字列
    "ProviderJobID"AWSが配列ジョブに対して提供する一意的な識別子
    • "AWSBatch"プロバイダを使っているときには，RemoteBatchJobObjectがサポートする標準特性に加えて，"ArrayChild"タイプのジョブオブジェクトから以下の特性が使用可能である．
  • "JobExitCode"ジョブコンテナ内のカーネルによって返される終了コード
    "JobLog"子のジョブコンテナからのコンソールログ
    "JobStatusReason"子のジョブが現在のステートにある理由を説明する文字列
    "ProviderJobID"AWSが子のジョブに対して提供する一意的な識別子
    • "JobExitCode"特性の可能な値のいくつかについて，その意味がExitのドキュメントページにリストされている．
    AWS Batchが提供する"JobStatusReason"特性の値は，現在のステートによっては，与えられたジョブから欠けていることがある．
    "JobLog"特性の値は，Amazon CloudWatch Logsから取り出され，ジョブが"Running"ステートに達するまで，この値はない．
    "ProviderJobID"特性の値は，ジョブをWolframシステム内で特定する"JobUUID"特性に対して，ジョブをAWS Batchに特定する．
    AWS Batchは有効期限切れになり，ジョブのメタデータはジョブが完了ステート（"Succeeded"または"Failed"）に達してから24時間後に削除する． »
    有効期限が切れたジョブを表すRemoteBatchJobObject式は，ステートを尋ねることはできず，RemoteBatchJobsでリストされない．有効期限が切れたジョブからの出力データは，バケットのライフサイクルポリシーによって手動的に削除されるか有効期限がきれるかするまでは，Amazon S3に残され，RemoteBatchJobObjectからアクセス可能である．

    例題

    すべて開く すべて閉じる

    例  (2)

    AWS Batchのバッチ計算プロバイダを設定するのワークフローで説明されているように"AWSBatch"のバッチ計算プロバイダを設定してから，"AWSBatch"のRemoteBatchSubmissionEnvironmentオブジェクトを作成する：

    Wolfram Language code: environment = RemoteBatchSubmissionEnvironment["AWSBatch", <| "IOBucket" -> "my-job-bucket", "JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueue", "JobDefinition" -> "arn:aws:batch:us-east-1:123456789012:job-definition/MyDefinition:1" |>]
    Wolfram Language code: RemoteBatchSubmissionEnvironment["AWSBatch", Association["JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueue", "JobDefinition" -> "arn:aws:batch:us-east-1:123456789012:job-definition/MyDefinition:1", "IOBucket" -> "my-job-bucket"], "Valid" -> True]

    作成された環境を使ってジョブを送信する：

    Wolfram Language code: job = RemoteBatchSubmit[environment, 2 + 2]
    Wolfram Language code: RemoteBatchJobObject["AWSBatch", Association["Environment" -> RemoteBatchSubmissionEnvironment["AWSBatch", Association["JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueue", "JobDefinition" -> "arn:aws:batch:us-east-1: ... reated" -> True], "ProviderJobID" -> "f82ccd45-8697-44d8-a568-c5490a93bd0e", "ProviderSettings" -> Association["GPUCount" -> 0, "Memory" -> Quantity[2048, "Mebibytes"], "VCPUCount" -> 1], "TimeConstraint" -> Quantity[86400, "Seconds"]]]

    ジョブの状態についてのクエリを行う：

    Wolfram Language code: job["JobStatus"]

    ジョブが完了してから，もう一度ジョブの状態についてのクエリを行う：

    Wolfram Language code: job["JobStatus"]

    ジョブの出力をダウンロードする：

    Wolfram Language code: job["EvaluationResult"]

    明示的に指定された"AWS"サービスオブジェクトを使って，環境オブジェクトを作成する：

    Wolfram Language code: aws = ServiceConnect["AWS"]
    Wolfram Language code: ServiceObject["AWS", "ID" -> "connection-1fdc21f34e3b8af98e16ae0b2d970261"]
    Wolfram Language code: RemoteBatchSubmissionEnvironment["AWSBatch", <| "JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueue", "JobDefinition" -> "arn:aws:batch:us-east-1:123456789012:job-definition/MyDefinition:1", "IOBucket" -> "my-job-bucket", "ServiceObject" -> aws |>]
    Wolfram Language code: RemoteBatchSubmissionEnvironment["AWSBatch", Association["JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueue", "JobDefinition" -> "arn:aws:batch:us-east-1:123456789012:job-definition/MyDefinition:1", "IOBucket" -> "my-job-bucket"], "Valid" -> True]

    ジョブ設定  (4)

    "GPUCount"  (1)

    GPU計算を使って事前訓練されたニューラルネットにおいて推論を行うAWS Batchに配列ジョブを送信する：

    Wolfram Language code: images = RandomSample[ResourceData["MNIST"], 20][[All, 1]]; job = RemoteBatchMapSubmit[ RemoteBatchSubmissionEnvironment[...], model[#, TargetDevice -> "GPU"]&, images, RemoteProviderSettings -> <|"GPUCount" -> 1|>, Initialization :> (model = NetModel["LeNet Trained on MNIST Data"]) ]
    Wolfram Language code: RemoteBatchJobObject["AWSBatch", Association["ChildJobCount" -> 4, "ChildJobsPerInputChunk" -> 4, "Environment" -> RemoteBatchSubmissionEnvironment["AWSBatch", Association["JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueu ... toCreated" -> True], "ProviderJobID" -> "d50c05f5-c899-48e4-b148-cf6002b60a49", "ProviderSettings" -> Association["GPUCount" -> 1, "Memory" -> Quantity[4096, "Mebibytes"], "VCPUCount" -> 1], "TimeConstraint" -> Quantity[86400, "Seconds"]]]

    配列ジョブの出力をダウンロードする：

    Wolfram Language code: AssociationThread[images -> job["EvaluationResults"]]

    "Memory"  (2)

    ジョブのメモリ制限は，"Memory"のジョブ設定で調整することができる：

    Wolfram Language code: job = RemoteBatchSubmit[RemoteBatchSubmissionEnvironment[...], Array[Range[1, #]&, 38000];, RemoteProviderSettings -> <|"Memory" -> Quantity[8, "Gibibytes"]|>]
    Wolfram Language code: RemoteBatchJobObject["AWSBatch", Association["Environment" -> RemoteBatchSubmissionEnvironment["AWSBatch", Association["JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueue", "JobDefinition" -> "arn:aws:batch:us-east-1: ... toCreated" -> True], "ProviderJobID" -> "b23a465a-113e-4266-a647-17ff8afffa8b", "ProviderSettings" -> Association["GPUCount" -> 0, "Memory" -> Quantity[8, "Gibibytes"], "VCPUCount" -> 1], "TimeConstraint" -> Quantity[86400, "Seconds"]]]
    Wolfram Language code: job["JobStatus"]

    他に指定がない限り，デフォルトのメモリ制限は，設定されたvCPUとGPUの数に基づく：

    Wolfram Language code: jobs = { RemoteBatchSubmit[RemoteBatchSubmissionEnvironment[...], 2 + 2], RemoteBatchSubmit[RemoteBatchSubmissionEnvironment[...], 2 + 2, RemoteProviderSettings -> <|"VCPUCount" -> 16|>], RemoteBatchSubmit[RemoteBatchSubmissionEnvironment[...], 2 + 2, RemoteProviderSettings -> <|"GPUCount" -> 2|>] }; #["ProviderSettings"]& /@ jobs

    "VCPUCount"  (1)

    4つのvCPUを送信されたジョブに割り当てるようにAWS Batchに指示する：

    Wolfram Language code: job = RemoteBatchSubmit[ RemoteBatchSubmissionEnvironment[...], {$ProcessorCount, ParallelEvaluate[$KernelID]}, RemoteProviderSettings -> <|"VCPUCount" -> 4|> ]
    Wolfram Language code: RemoteBatchJobObject["AWSBatch", Association["Environment" -> RemoteBatchSubmissionEnvironment["AWSBatch", Association["JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueue", "JobDefinition" -> "arn:aws:batch:us-east-1: ... toCreated" -> True], "ProviderJobID" -> "09b6f4aa-31b5-4ba7-8ac7-d84d39e018e6", "ProviderSettings" -> Association["GPUCount" -> 0, "Memory" -> Quantity[4, "Gibibytes"], "VCPUCount" -> 4], "TimeConstraint" -> Quantity[86400, "Seconds"]]]
    Wolfram Language code: job["EvaluationResult"]

    ジョブ特性  (2)

    "Single"ジョブ  (1)

    RemoteBatchSubmitを使って，AWS Batchにバッチジョブを送信する：

    Wolfram Language code: job = RemoteBatchSubmit[RemoteBatchSubmissionEnvironment[...], 2 + 2]
    Wolfram Language code: RemoteBatchJobObject["AWSBatch", Association["Environment" -> RemoteBatchSubmissionEnvironment["AWSBatch", Association["JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueue", "JobDefinition" -> "arn:aws:batch:us-east-1: ... reated" -> True], "ProviderJobID" -> "8869279e-feaf-4fcc-a201-17747d6c896a", "ProviderSettings" -> Association["GPUCount" -> 0, "Memory" -> Quantity[2048, "Mebibytes"], "VCPUCount" -> 1], "TimeConstraint" -> Quantity[86400, "Seconds"]]]

    ジョブの状態について，ジョブがその状態に移行した理由と一緒にクエリを行う：

    Wolfram Language code: {job["JobStatus"], job["JobStatusReason"]}

    ジョブコンテナからコンソール出力を得る：

    Wolfram Language code: job["JobLog"]

    "Array"および"ArrayChild"のジョブ  (1)

    RemoteBatchMapSubmitを使って，AWS Batchに配列ジョブを送信する：

    Wolfram Language code: arrayJob = RemoteBatchMapSubmit[ RemoteBatchSubmissionEnvironment[...], # ^ 2&, Range[8] ]
    Wolfram Language code: RemoteBatchJobObject["AWSBatch", Association["ChildJobCount" -> 3, "ChildJobsPerInputChunk" -> 3, "Environment" -> RemoteBatchSubmissionEnvironment["AWSBatch", Association["JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueu ... toCreated" -> True], "ProviderJobID" -> "12ed940d-b260-4c81-ace3-74e6ea6e2cab", "ProviderSettings" -> Association["GPUCount" -> 0, "Memory" -> Quantity[2048, "Mebibytes"], "VCPUCount" -> 1], "TimeConstraint" -> Quantity[86400, "Seconds"]]]

    それぞれの子のジョブの状態について，ジョブが現行状態に移行した理由と一緒にクエリを行う：

    Wolfram Language code: Merge[{arrayJob["ChildJobStatuses"], arrayJob["ChildJobStatusReasons"]}, Identity]

    最初の子のジョブを表すRemoteBatchJobObject式を得る：

    Wolfram Language code: childJob = arrayJob["ChildJobObjects"][[1]]

    その子のジョブの状態について，子のジョブが現行状態に移行した理由と一緒にクエリを行う：

    Wolfram Language code: {childJob["JobStatus"], childJob["JobStatusReason"]}

    子のジョブコンテナからコンソール出力を得る：

    Wolfram Language code: childJob["JobLog"]

    特性と関係  (1)

    ジョブがRemoteBatchJobAbortで停止された場合には，"JobStatusReason"特性の値は，停止のリクエストが Wolfram言語からのものであることを示す：

    Wolfram Language code: job = RemoteBatchSubmit[RemoteBatchSubmissionEnvironment[...], 2 + 2]
    Wolfram Language code: RemoteBatchJobObject["AWSBatch", Association["Environment" -> RemoteBatchSubmissionEnvironment["AWSBatch", Association["JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueue", "JobDefinition" -> "arn:aws:batch:us-east-1: ... reated" -> True], "ProviderJobID" -> "d1ee02ea-e40a-4690-ac13-283610084d1b", "ProviderSettings" -> Association["GPUCount" -> 0, "Memory" -> Quantity[2048, "Mebibytes"], "VCPUCount" -> 1], "TimeConstraint" -> Quantity[86400, "Seconds"]]]
    Wolfram Language code: RemoteBatchJobAbort[job]
    Wolfram Language code: RemoteBatchJobObject["AWSBatch", Association["Environment" -> RemoteBatchSubmissionEnvironment["AWSBatch", Association["JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueue", "JobDefinition" -> "arn:aws:batch:us-east-1: ... reated" -> True], "ProviderJobID" -> "d1ee02ea-e40a-4690-ac13-283610084d1b", "ProviderSettings" -> Association["GPUCount" -> 0, "Memory" -> Quantity[2048, "Mebibytes"], "VCPUCount" -> 1], "TimeConstraint" -> Quantity[86400, "Seconds"]]]
    Wolfram Language code: {job["JobStatus"], job["JobStatusReason"]}

    考えられる問題  (2)

    AWS Batchは，メモリ制限を超えたジョブを終了する：

    Wolfram Language code: job = RemoteBatchSubmit[RemoteBatchSubmissionEnvironment[...], Array[Range[1, #]&, 38000];]
    Wolfram Language code: RemoteBatchJobObject["AWSBatch", Association["Environment" -> RemoteBatchSubmissionEnvironment["AWSBatch", Association["JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueue", "JobDefinition" -> "arn:aws:batch:us-east-1: ... reated" -> True], "ProviderJobID" -> "fe328b8a-6b14-4c26-a9f2-368638ba5a3c", "ProviderSettings" -> Association["GPUCount" -> 0, "Memory" -> Quantity[4096, "Mebibytes"], "VCPUCount" -> 1], "TimeConstraint" -> Quantity[86400, "Seconds"]]]
    Wolfram Language code: {job["JobStatus"], job["JobStatusReason"]}

    ジョブのメモリ制限は，"Memory"のジョブ設定で調整することができる：

    Wolfram Language code: job = RemoteBatchSubmit[RemoteBatchSubmissionEnvironment[...], Array[Range[1, #]&, 38000];, RemoteProviderSettings -> <|"Memory" -> Quantity[8, "Gibibytes"]|>]
    Wolfram Language code: RemoteBatchJobObject["AWSBatch", Association["Environment" -> RemoteBatchSubmissionEnvironment["AWSBatch", Association["JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueue", "JobDefinition" -> "arn:aws:batch:us-east-1: ... toCreated" -> True], "ProviderJobID" -> "b23a465a-113e-4266-a647-17ff8afffa8b", "ProviderSettings" -> Association["GPUCount" -> 0, "Memory" -> Quantity[8, "Gibibytes"], "VCPUCount" -> 1], "TimeConstraint" -> Quantity[86400, "Seconds"]]]
    Wolfram Language code: job["JobStatus"]

    AWS Batchは，ジョブが完了の状態（"Succeeded" または"Failed"）に達してから24時間後にジョブのメタデータを削除する．このことによって，メタデータについてのクエリが欠測値を返す：

    Wolfram Language code: job = RemoteBatchJobObject["AWSBatch", Association["Environment" -> RemoteBatchSubmissionEnvironment["AWSBatch", Association["JobQueue" -> "arn:aws:batch:us-east-1:123456789012:job-queue/MyQueue", "JobDefinition" -> "arn:aws:batch:us-east-1: ... eated" -> True], "ProviderJobID" -> "d80a93c8-fc81-4694-8904-3dfd0cd63a06", "ProviderSettings" -> Association["GPUCount" -> 0, "Memory" -> Quantity[2048, "Mebibytes"], "VCPUCount" -> 1], "TimeConstraint" -> Quantity[604800, "Seconds"]]];
    Wolfram Language code: job["JobStatus"]

    ジョブの出力データには，手動で削除されるか，送信環境のI/Oバケットのライフサイクルポリシーによって（もしそのようなポリシーが設定されているのであれば）有効期限が自動的に切れるかするまで，アクセス可能である：

    Wolfram Language code: job["EvaluationResult"]