ステージを手動で最新のデータに更新することができます。データ元から再読み込みを行うことで、スケジュール実行時に失敗したデータも取得可能です。これはETLワークフローの一部であり、データの移動を確実にし、必要に応じて最新のデータを取得して正確なデータ統合を実現します。
1. パイプラインを作成、またはホームページ、Pipelinesタブ、またはWorkspacesタブから既存のパイプラインを開き、データ追加オプションをクリックします。また、データインポートオプションをWorkspacesタブ内でクリックしてデータをインポートすることもできます。
Info: できること または パイプラインビルダーの上部にあるインポートする data アイコンをクリックして、複数のソースからパイプラインにデータを取り込むことができます。
2. 次の画面で、必須データ元を選択します。また、左側のペインから以下のカテゴリのいずれかを選択することもできます。
ファイル
データベース
クラウドストレージ
クラウドデータベース
Zohoアプリ
保存済み外部連携
3. すべてのファイルが正常にインポートされると、Pipeline builderページに移動し、トランスフォームの適用を開始できます。ステージを右クリックして、Prepare dataオプションを選択すると、DataPrep Studioページでデータの準備が可能です。これらのトランスフォームはETLの「変換」フェーズの一部であり、データのクレンジングや整形を行い、効果的なデータ統合を支援します。トランスフォームについてはこちらをクリックしてください。
4. データを手動で更新するには、Pipeline builderページで省略記号アイコンをクリックし、更新する dataオプションを選択します。この操作でデータの移動が実行され、最新のデータ元からETLパイプラインへデータが流れるようになります。
範囲を選択
差出人- このオプションを使用すると、指定した日付・時刻のパターンに一致するデータをインポートできます。
が次の間- このオプションを使用すると、指定した2つの時刻区間に一致するデータをインポートできます。
メモ: データはインポートする configuration に基づいてインポートされます。これにより、実行ごとに一貫したデータ統合が維持されます。
このオプションを選択すると、データ元ファイルからすべてのデータがインポートされます。詳細選択方法を使用せずにインポートする場合に利用できます。
このオプションを選択すると、ファイルパターンに一致するすべての利用可能なデータがインポートされます。
このオプションを使用して、クラウドストレージからインクリメンタルデータをインポート・取得する方法を設定できます。インクリメンタルデータインポートは、前回の同期以降に新規または更新されたデータのみをインポートする方法です。この戦略により、効率的なデータ移動と信頼性の高いデータ統合が可能になります。
新しいデータが利用できない場合は、以前インポートしたファイルを使用:
インクリメンタルインポート中、
- チェックボックスがオンの場合:データ元にいいえ 新規データが存在する場合、最後に取得済みのデータが再度インポートされます。
- チェックボックスがオフの場合:データ元にいいえ 新規データが存在する場合、インポートする処理が失敗し、いいえファイルもインポートされません。そのため、パイプラインジョブ全体が失敗します。
どのファイルをインポートするか?次のいずれかを選択してインポートできます:すべてのファイル、最新ファイル、または最古ファイルを、このオプションで指定できます。
このオプションを選択すると、指定したファイルパターンに一致し、かつ特定のデータ区間内のすべてのファイルが、「Fetch based オン」項目に基づいてインポートされます。
メモ: GoogleDrive、OneDrive、SharePoint、箱には、modifiedTimeとcreatedTimeが設定されています。
情報: ファイルバッチサイズは10を超えることはできません。このオプションはクラウドストレージ、FTP、ローカルファイルシステムの詳細選択でのみ利用可能です。
このオプションを選択すると、指定したファイルパターンに一致し、指定したデータ間隔内で「Fetch based オン」項目に基づいた最新のファイルがインポートされます。
このオプションを選択すると、指定したファイルパターンに一致し、指定したデータ間隔内で「Fetch based オン」項目に基づいた最も古いファイルがインポートされます。
データのインポートは一度だけ行われます。2回目以降は、同じデータに対してルールが適用され、エクスポート済みデータとなります。
6. インポート設定とデータ間隔の設定後、データを更新をクリックします。データ更新は正常に実行されます。
7. データのリロードが完了したら、必要な変換を適用し、宛先を追加して手動実行によりデータをエクスポートできます。
重要: 手動実行およびリロードしたデータのエクスポートを必ず行い、スケジュール実行中のデータ損失を防いでください。また、OutputタブのJob概要ページからデータをダウンロードすることも可能です。手動でETLパイプラインを更新するたびに、ジョブが作成されます。
| データ元からデータをインポートする方法 |
| データ元ファイルをインポート |
| データをインポートしない |
| データ元からデータをインポートする方法 |
| すべてのデータをインポート |
| 増分ファイル取得 すべてのファイル 最新ファイル 最古ファイル |
| データをインポートしない |
| データ元からデータをインポートする方法 |
| インポートするデータ元ファイル メモ: ファイルをアップロードするオプションを使って、新規のデータ元ファイルをアップロードできます。Parse file asオプションを利用することで、不明なファイル形式も解析可能です。 |
| データをインポートしない |
| インポートするデータ元ファイル |
| データをインポートしない |
| すべてのデータをインポート |
| データをインポートしない |
| インポートするデータ元ファイル |
| データをインポートしない |
| データ元からのデータインポート方法 |
| すべてのデータをインポート |
| 増分ファイル取得 すべてのファイル 最新のファイル 最も古いファイル |
| データをインポートしない |
| すべてのデータをインポート |
| 更新済みおよび新規データのみ |
| インポートしないデータ |
| すべてのデータをインポート |
| 増分ファイル取得 すべてのファイル 最新ファイル 最古ファイル |
| インポートしないデータ |
| データ元 | データ元からデータをインポートする方法 | データ間隔の適用可否 |
| すべてのデータをインポート | ||
| 更新済みおよび新規データのみ | ||
| インポートしないデータ | ||
| 更新済みおよび新規データのみ | ||
| インポートしないデータ | ||
| すべてのデータをインポート | ||
| 更新済みおよび新規データのみ | ||
| 新規データのみ | ||
| インポートしないデータ | ||
| すべてのデータをインポート | ||
| 更新済みデータおよび新規データのみ | ||
| データをインポートしない | ||
| すべてのデータをインポート | ||
| 更新済みデータおよび新規データのみ | ||
| 新規データのみ | ||
| データをインポートしない | ||
| 新規データのみ | ||
| データをインポートしない | ||
| すべてのデータをインポートする | ||
| 更新済みおよび新規データのみ | ||
| すべてのデータをインポートする | ||
| 更新済みおよび新規データのみ | ||
| 新規データのみ | ||
| データをインポートしない | ||
| すべてのデータをインポートする | ||
| データをインポートしない | ||
| 新規データのみ | ||
| 更新済みデータおよび新規データのみ | ||
| データをインポートしない |