Natera、Bedrock AgentCoreで音声予約を自動化、ECSから移行

背景と課題

Nateraは、細胞遊離DNA検査を専門とするグローバル診断企業です。がん患者が自宅で採血を受けられるように、採血予約の電話対応を自動化したいと考えました。従来は人間のスタッフが予約を管理していましたが、正確性とスケーラビリティに課題がありました。

患者は電話で本人確認を行い、希望日を3つ伝え、サービス提供場所を指定します。予約調整チームが採血士やベンダーと連携して候補の枠を確定していました。この業務フローを維持しながら、音声対話で完結できる仕組みが必要でした。

AgentCoreを選んだ理由

Nateraは従来、サードパーティのAIプロバイダーとTwilioを組み合わせ、Amazon ECS上で音声対話を運用していました。しかし、コンテナのスケーリングやヘルスチェックなどの運用負担があり、よりマネージドな環境を求めていました。Amazon Bedrock AgentCoreは、エージェントの構築・接続・最適化を可能にするフルマネージドサービスです。

AgentCoreは、組み込みの可観測性を備えています。各リクエストの処理時にトレースを取得し、どのツールが呼ばれ、各ステップにどれだけ時間がかかったかを確認できます。医療現場では正確性と性能が重要であり、問題の特定と修正を迅速に行える点が評価されました。

3つの設計原則

1つ目はデュアルWebSocketブリッジパターンです。テレフォニーとモデル推論の間にオーケストレーション層を置き、それぞれ別のWebSocket接続を維持します。これにより、TwilioをAmazon Connect Healthに、またはモデルを別のものに交換しても、システム全体を再設計せずに済みます。

2つ目はイベント駆動のレイテンシマスキングです。ツール呼び出し中に、文脈に沿ったフィラー応答を並行して生成し、患者に無音を感じさせません。認証APIは平均2.5秒、予約APIは平均4秒かかるため、各ツールのP50値から1秒引いた時点でフィラーを生成します。

3つ目はプログレッシブトラストモデルです。会話の進行に応じて段階的に認証とメモリへのアクセスを強化します。最初から身分証明を要求するのではなく、自然な会話の流れの中で信頼を高めていきます。

ECSからAgentCoreランタイムへの移行

NateraはAmazon ECSからAgentCoreランタイムへ移行しました。これは、エージェントを分離されたマイクロVMで実行するフルマネージドのサーバーレス環境です。移行では、音声オーケストレーションのロジックをコンテナ固有のインフラコードから切り離し、エージェントのエントリーポイントをAgentCoreのハンドラパターンに合わせました。

移行中には、長期間続くWebSocket接続とセッション状態の維持という2つの課題に直面しました。AgentCoreのマイクロVMは呼び出し単位でスコープされるため、接続プールを実装し、セッション状態をAgentCoreのメモリに外部化してアクターIDで管理するようにしました。これにより、コンテナのスケーリングやデプロイの運用負荷が不要になりました。

検証結果と注意点

検証では、500回のエンドツーエンドの通話シミュレーションでツール呼び出し精度100%を達成し、体感レイテンシは7秒未満、1回の通話あたりのコストは0.01米ドル未満でした。これは、フィラー生成とレイテンシマスキングが効果を発揮した結果です。

一方で、このアーキテクチャはオーケストレーションの複雑さが増します。2つのWebSocket接続と並行フィラー生成、セッション管理を慎重に扱う必要があります。単純なQ&Aやテキストのみのエージェントの場合は、ブリッジパターンなしの直接統合で十分な可能性があります。