S-JIS[2011-08-20/2012-12-19] 変更履歴

Asakusa Framework(MapReduce)のフローの可視化

Asakusa Framework(Asakusa on MapReduce)ではジョブフローの図(グラフ)をGraphvizで描画 (可視化)することが出来る。


ジョブフローのグラフ

MapReduceを使うAsakusaFW(Asakusa on MapReduce)において、フローDSLのコンパイル、すなわちジョブフローのテストを実行すると、dotファイルが生成される。
このdotファイルをGraphvizに読み込ませると、フロー(有向グラフ)が描画される。


AsakusaFW 0.2.1のCoGroup版WordCountのジョブフロー

C:\workspace\afw-wordcount\target\testdriver\batchcwork\bin\META-INF\visualize\flowgraph.dot


AsakusaFW 0.2.1のCoGroup版偏差値算出サンプルのジョブフロー

C:\workspace\afw-score\target\testdriver\batchcwork\bin\META-INF\visualize\flowgraph.dot


ステージグラフ

AsakusaFWでコンパイルを行うとMapReduceジョブ群が生成されるが、AsakusaFWではMapReduceジョブをステージと呼んでいる。[2012-12-19]
ステージの順序関係とどの演算子がどのステージに含まれるかをステージグラフで確認できる。

AsakusaFW 0.4では、ステージグラフやフローグラフはtarget/batchc/バッチ名/opt/dsl-analysis/jobflowの下に生成される。

$ mvn clean package
$ cd target/batchc/ジョブ名/opt/dsl-analysis/jobflow/ジョブ名
$ ls
flowgraph.dot stageblock-1.dot stageblock-2.dot stageblock-3.dot stageblock-4.dot stagegraph.dot

$ dot -Tpng -o stagegraph.png stagegraph.dot

AsakusaFW 0.4のDirect I/O版偏差値算出サンプルのステージグラフ


可視化へ戻る / AsakusaFW目次へ戻る / 技術メモへ戻る
メールの送信先:ひしだま