DSジョブチェックリスト

 

DataStageジョブチェックリスト
ジョブ構成
ステージ数
設計標準化ガイドで指定した数(最大25)を超えて定義していないか?
使用ステージ
設計標準化ガイドで定義済のステージを適切に使用しているか?
ステージの選定が適切か?
ソート
ソートステージの入力リンクで、Sortにチェックされていないか?
不要なソートが入っていないか?
Sortが効率的に定義されているか?
ソート順ごとに処理がまとめられているか?
ソート済のデータの対応が正しくできているか?
その後の処理に不要なカラムまでソートしていないか?
キーでVarChar長さ指定なしは、パフォーマンス悪いか?(要確認)
共有コンテナでソート処理、Join処理を行っていないか?⇒ソート、Join後のDataSetを保存した方が効率的でないか?
図の構成
プロジェクトの全体方針に準拠しているか?
見やすいか?
コメントが適切に記述されているか?
ステージ名、リンク名が設計通りに設定されているか?
不必要カラム
後ろのステージで不必要なカラムを前のステージで定義して使用していないか?
使わないカラムを分割していないか?
使用しないカラムはCopyステージ等で落とされているか?
共有コンテナ
共有コンテナ内でSort処理を実行していないか?
共有コンテナを使用するために、呼ぶだし側のフローが複雑になっていないか? 今回のプロジェクトでは、呼び出し側で項目を分け、明細・集約レコードを分割し、最終的にJoinで結合している。

ステージ
Lookup
対象データはメモリに充分乗るか?
不必要なカラムが定義されていないか?
対象データは他のジョブと共通で使用できないか? 前もってLookupFileSetにすることができないか?
Join
前もって結合キー・昇順でソートされているか?
Left, Rightの件数の関係が適切か?
Joinするのに不要なカラムまでないか?
参照側の件数が少ないのに、Joinを使用していないか?⇒Lookupにすれば、前もって行うSortが不要になる。
同じデータへのJoinを複数回実行していないか?⇒可能であれば、1つにまとめる。
Aggregator
集計キーは正しいか?
集計タイプは、Sortになっているか?
Transformer
代替ステージがあるか?
Routine、mallocなどclearしているか?再帰的に取得していないか?
ジョブパラメータ
可変にすべきものが定義されているか?
パーティション
ガイドに乗っ取っているか?
適切に同一が使用されているか?
node数は、構成ファイルで定義したものを使用しているか?
順次の場合は設計通りに定義されているか?
ソート、集計を考慮したパーティションを選定しているか?
文字コード
漢字として扱う必要のあるカラムは、unicode拡張で定義されているか?
漢字として扱う必要のないカラムは、unicode拡張で定義されていないか?
文字コードは設計どおりに定義しているか?


コメント

人気の投稿