「gr.Workflow」でAIパイプラインを構築、REST APIも自動生成

gr.Workflowとは

gr.Workflowは、Gradioに標準で組み込まれた新機能で、AI処理の流れをグラフ構造で定義します。ノードを接続して処理のパイプラインを作ると、それがそのままドラッグ＆ドロップで操作できるキャンバスとして表示されます。各ノードは単独で実行でき、途中結果もその場で確認できます。

このグラフは、そのままREST APIとしても機能し、Hugging Face Spacesへのデプロイもコマンド一つで完了します。パイプラインそのものがUIとAPIを兼ねるという設計です。

3種類のノードで構成

ワークフローは「参照（入力）」「オペレーター（処理）」「サブジェクト（出力）」の3種類のノードで構成されます。オペレーターには、自分で書いたPython関数、Hugging Face Inference Providers上のモデル、別のGradio Space、Hubデータセットの行を指定できます。

ノード同士は型付きのポートをドラッグして接続します。実行すると、各ノードの結果がその場に表示されるため、処理全体の流れを視覚的に追えるのが利点です。GPUを使う処理では、関数に@spaces.GPUを付けると、ZeroGPUが必要な間だけGPUを確保する仕組みも用意されています。

実際のユースケース

記事では5つのデモが紹介されています。画像編集パイプラインは、アップロードした画像に自然言語で指示を出すと、Qwen-Image-Editが編集結果を返します。AIメディアスタジオは、プロンプトからFLUXで画像を生成し、背景除去、音声合成、タイトル生成を一つのグラフで実行します。

並列生成の例では、一つのアイデアからFLUXによるベース画像、水彩調やサイバーパンク調のリミックス、LLMによるタイトルを同時に生成します。データセット分析では、指定したデータセットIDを4つのノードに分岐させ、各指標を並行して計算します。

APIとして利用する

gr.Workflowで作成したグラフは、出力ごとにRESTエンドポイントが自動生成されます。Pythonからはgradio_clientを使って呼び出せます。モデルやSpaceを呼び出すエンドポイントではHugging Faceのトークンが必要です。

curlでの直接アクセスも可能です。例えば、'https://.../gradio_api/call/word_count' にJSONをPOSTするだけで結果が得られます。UIを開かずに外部システムから呼び出せるため、既存のアプリケーションへの組み込みが容易になります。

今後の展開と注意点

現時点で利用できるオペレーターは、Python関数、Inference Providersのモデル、別のGradio Space、Hubデータセットの行に限られます。大規模な本番運用でどの程度の性能やエラー処理ができるかは、まだ十分に示されていません。

一方で、記事は次回の投稿でAUTOMATIC1111のような複雑なUIをgr.Workflowで構築する手順を公開するとしています。より複雑なワークフローの事例が増えれば、実運用への適用可能性が見えてくるでしょう。