このページでは、転送ジョブを作成して開始する方法について説明します。
ソースと宛先(シンクとも呼ばれます)が Storage Transfer Service でサポートされているかどうかを確認するには、サポートされているソースとシンクをご覧ください。
エージェントとエージェント プール
ソースと宛先によっては、エージェント プールの作成と構成を行い、転送元または転送先にアクセスできるマシンにエージェントをインストールする必要がある場合があります。
Amazon S3、Microsoft Azure、URL リスト、Cloud Storage から Cloud Storage への転送には、エージェントとエージェント プールは必要ありません。
ソースと宛先がファイル システムである転送、または S3 互換ストレージからの転送には、エージェントとエージェント プールが必要です。手順については、エージェント プールの管理をご覧ください。
始める前に
転送を構成する前に、次のアクセス権が構成されていることを確認してください。
- ユーザーとサービス アカウント。
- ソースデータと宛先。
gcloud コマンドを使用している場合は、gcloud CLI をインストールしてください。
転送を作成
転送ジョブ名に、個人を特定できる情報(PII)やセキュリティ データなどの機密情報を含めないでください。リソース名は、他の Google Cloud リソースの名前に反映され、プロジェクト外部の Google 内部システムに公開される場合があります。
Google Cloud コンソール
Google Cloud コンソールの [Storage Transfer Service] ページに移動します。
[転送ジョブを作成] をクリックします。[転送ジョブの作成] ページが表示されます。
ソースを選択します。
Cloud Storage
ソースバケットと宛先バケットを選択するには、ユーザー アカウントに storage.buckets.get 権限が必要です。バケットの名前を直接入力することもできます。詳細については、アクセスのトラブルシューティングをご覧ください。
[参照元の種類] で、[Google Cloud Storage] を選択します。
[宛先の種類] を選択します。
転送先が Cloud Storage の場合は、スケジュール モードを選択します。バッチ転送は、1 回限りまたはスケジュールに基づいて実行されます。イベント ドリブン転送は、ソースを継続的にモニタリングし、追加や変更が行われるとデータを転送します。
イベント ドリブン転送を構成するには、イベント ドリブン転送の手順を実施します。
[次のステップ] をクリックします。
次のいずれかの方法で、バケットとそのバケット内のフォルダ(必要に応じて)を選択します。
[バケットまたはフォルダ] フィールドに、接頭辞
gs://を付けずに既存の Cloud Storage バケット名とパスを入力します。例:my-test-bucket/path/to/files。別のプロジェクトの Cloud Storage バケットを指定するには、[バケット名] フィールドに名前を正確に入力します。[参照] をクリックしてバケットを選択し、プロジェクト内の既存のバケットのリストを選択します。
[参照] をクリックし、[プロジェクト ID] をクリックして新しいプロジェクト ID とバケットを選択すると、他のプロジェクトのバケットを選択できます。
新しいバケットを作成するには、[
新しいバケットを作成] をクリックします。
フォルダ内のパスを指定する場合は、ソースパスと宛先パスの指定で重要な詳細をご確認ください。
イベント ドリブン転送の場合は、Pub/Sub サブスクリプション名を入力します。これは、次の形式になります。
projects/PROJECT_NAME/subscriptions/SUBSCRIPTION_ID
- 必要に応じて、オブジェクトを前方一致でフィルタするか、最終更新日時でフィルタします。ソースの場所としてフォルダを指定した場合、接頭辞フィルタはそのフォルダを基準とします。たとえば、ソースが
my-test-bucket/path/の場合、fileの一致フィルタにはmy-test-bucket/path/fileで始まるすべてのファイルが含まれます。 [次のステップ] をクリックします。
Amazon S3
Amazon S3 から Cloud Storage へ転送するをご覧ください。
S3 互換ストレージ
S3 互換ストレージから Cloud Storage へ転送するをご覧ください。
Microsoft Azure Blob Storage
[参照元の種類] で、[Azure Blob Storage または Data Lake Storage Gen2] を選択します。
[次のステップ] をクリックします。
以下を指定します。
ストレージ アカウント名 - ソースの Microsoft Azure Storage アカウント名。
ストレージ アカウント名は、Microsoft Azure Storage ポータルの [すべてのサービス] > [ストレージ] > [ストレージ アカウント] に表示されます。
コンテナ名 - Microsoft Azure Storage のコンテナ名。
コンテナ名は、Microsoft Azure Storage ポータルの [ストレージ エクスプローラー] > [BLOB コンテナー] に表示されます。
Shared Access Signature(SAS) - 格納されているアクセス ポリシーから作成された Microsoft Azure Storage SAS のトークン。詳細については、Shared Access Signature(SAS)を使用した Azure Storage リソースへのアクセスの制限を付与するをご覧ください。
SAS トークンのデフォルトの有効期限は 8 時間です。SAS トークンを作成する際は、転送を正常に完了できるように、十分な有効期限を設定してください。
- 必要に応じて、オブジェクトを前方一致でフィルタするか、最終更新日時でフィルタします。ソースの場所としてフォルダを指定した場合、接頭辞フィルタはそのフォルダを基準とします。たとえば、ソースが
my-test-bucket/path/の場合、fileの一致フィルタにはmy-test-bucket/path/fileで始まるすべてのファイルが含まれます。 [次のステップ] をクリックします。
ファイル システム
[ソースタイプ] で、[POSIX ファイル システム] を選択します。
[宛先の種類] を選択して、[次のステップ] をクリックします。
既存のエージェント プールを選択するか、[エージェント プールの作成] を選択し、手順に沿って新しいプールを作成します。
ファイル システム ディレクトリの完全修飾パスを指定します。ルート以外のパスを指定する場合は、ソースパスと宛先パスの指定で重要な詳細を確認してください。
[次のステップ] をクリックします。
HDFS
HDFS から Cloud Storage に転送するをご覧ください。
URL リスト
[参照元の種類] で、[URL リスト] を選択し、[次のステップ] をクリックします。
[TSV ファイルの URL] で、タブ区切りの値(TSV)ファイルの URL を指定します。TSV ファイルを作成する方法について詳しくは、URL リストの作成をご覧ください。
- 必要に応じて、オブジェクトを前方一致でフィルタするか、最終更新日時でフィルタします。ソースの場所としてフォルダを指定した場合、接頭辞フィルタはそのフォルダを基準とします。たとえば、ソースが
my-test-bucket/path/の場合、fileの一致フィルタにはmy-test-bucket/path/fileで始まるすべてのファイルが含まれます。 [次のステップ] をクリックします。
宛先を選択します。
Cloud Storage
[バケットまたはフォルダ] フィールドに、ソースバケットと(必要に応じて)フォルダ名を入力するか、[参照] をクリックして、現在のプロジェクトにある既存のバケットリストからバケットを選択します。新しいバケットを作成するには、[
新しいバケットを作成] をクリックします。バケット内のパスを指定する場合は、ソースパスと宛先パスの指定で重要な詳細を確認してください。
[次のステップ] をクリックします。
スケジュール オプションを選択します。
[1 回だけ実行] プルダウン リストから、次のいずれかを選択します。
1 回だけ実行: 選択した時間に、1 回だけ転送を行います。
毎日実行: 転送は毎日、選択した時刻に開始されます。
オプションの [終了日] を入力することも、[終了日] を空白のままにして転送を継続的に実行することもできます。
毎週実行: 選択した時間に毎週転送を実行します。
カスタム頻度で実行: 選択した頻度で転送を実行します。転送は、時間、日、週の間隔で定期的に繰り返すように設定できます。