AIUC、4000万ドルのシリーズA調達——AIエージェント標準と保険で信頼を狙う

何が発表されたのか

AIUC（Artificial Intelligence Underwriting Company）は、Ribbit CapitalとFirst Harmonicが主導する4000万ドルのシリーズAを発表した。同社はシード段階でNFDGの支援を受けて注目を集めた企業で、AIエージェント向けの標準規格「AIUC-1」を手がけている。今回の資金調達では、Cursor、Harvey、Lovable、ElevenLabsといった企業が顧客として挙げられている。

共同創業者のRune Kvist氏は、Anthropicの初期にプロダクトと市場開拓を担当した人物として紹介されている。同氏はシード調達の時点で「いずれリスクがAI導入を抑え込む」という仮説を掲げていたという。当時は投機的な話にすぎなかったが、現在は事実だと位置づけている。

AIUC-1という標準

AIUC-1は、AIエージェントのセキュリティ、安全性、信頼性を対象とした標準である。原文によれば、エージェントはジェイルブレイク、ハルシネーション、データ漏えいといった観点でストレステストにかけられる。同氏は、多くのAI企業が正常系の最適化に注力し、敵対的なケースを真剣に検証していないと指摘している。

標準の更新頻度についても踏み込んだ見方が示されている。数十年に一度ではなく、四半期ごとに更新する必要があるという考え方だ。変化の速い領域では、従来の標準策定のサイクルが前提として成り立たない可能性を示している。

標準と保険は切り離せないという主張も特徴的である。ロンドンのロイズ（Lloyd's of London）がAIシステムを引き受け、企業導入に信頼をもたらし得るという議論が紹介されている。

リスクが制約になる

議論の中心は、AIの能力向上と実運用のあいだにある隔たりである。Waymoがその例として挙げられ、技術が成立していても社会への実装までは別の壁があることが示される。自律システムが失敗したときに誰が責任を負うのかという問いは、AIが賢くなるほど難しくなるという。

法的責任が具体化しつつある例として、Air Canadaのチャットボットをめぐる事例が言及されている。また「月20ドルのCursor購読が2億ドルの航空機事故に関与したらどうなるか」という仮定の問いも提示される。著作権侵害は、最も保険が難しいAIリスクの一つだとされる。

現時点での不明点

AIUC-1の具体的な要件や審査プロセス、保険料の水準は今回の内容では明らかにされていない。日本企業が利用できるかどうかについても言及がない。導入を検討する立場からは、これらの情報が公開されるまで判断が難しい。

同社はロードマップとして、エージェントに加えてフロンティアモデル、ロボティクス、幅広い対象へのレッドチーミングを挙げている。ロボティクスはAIの責任をより重大にする領域だとされる。AIエンジニアにレベル1から3の資格を設けるべきかという議論も紹介されているが、結論は示されていない。