GPU効率改善と価格指標の整備、AWS検索拡充が示すAIインフラの現在地

GPU効率化と価格指標の整備

Hugging Faceは、GPU割り当ての順序を変えるだけでクラスタ効率が大きく変わる実験結果を公表しました。制約対応GPUアロケータとFIFOスケジューラを比較したところ、同一ハードウェア・同一ワークロードで稼働率が最大33ポイント向上しました。優先度加重出力は全7シナリオで向上しており、リアルタイム推論の固定予約と到着順割り当てが非効率の原因とされています。

また、Silicon DataはGPUレンタルの参照価格と先物取引の清算指標を提供するため、3000万ドルのシリーズAを調達しました。CMEでの取引開始は規制承認を条件に10月5日に予定されています。実現すれば、AI企業はGPU価格の変動をヘッジできる可能性があります。

AWSの検索拡充と日本対応

AWSは、Amazon Bedrock AgentCoreのWeb Search機能に、リクエスト単位でドメインと公開日を絞り込むフィルタを追加しました。許可・拒否ドメインのリストと公開日範囲を指定でき、管理者ポリシーと組み合わせて階層的に制御できます。あわせて、東京リージョンを含む2つのリージョンでWeb Searchが利用可能になりました。

明日以降に注目したい点

これらの動きは、AIインフラの効率化と市場整備が同時に進んでいることを示しています。明日以降は、GPU価格の先物取引が規制承認を経て実際に開始されるか、そしてAWSの検索フィルタがどのように活用されるかに注目が集まりそうです。特に、東京リージョン対応は日本企業にとって利用しやすさにつながるため、今後の機能拡充を見守りたいところです。