企業がAIエージェントの導入をためらう最大の理由の一つは、「本当に安全に動くか保証できない」という点です。この課題に向き合うスタートアップAIUCが、5500万ドルの資金調達を発表しました。創業者は元Anthropic社員のRune Kvist氏と、AI安全評価団体METRの元最高執行責任者（COO）Rajiv Dattani氏。義理の兄弟という2人が、サイバーセキュリティの世界的基準「SOC 2」を手本にした、AIエージェント向け認証制度づくりに挑んでいます。
背景と文脈
企業向けのソフトウェアを選ぶ際、情報セキュリティの水準を示す「SOC 2」という認証はすでに定着しています。取引先や顧客に対して、自社のシステムが一定の基準を満たしていることを証明する仕組みです。AIUCは、これと同じ発想をAIエージェントに当てはめようとしています。
AIエージェントは人間に代わって業務を実行できる利便性が注目される一方、思わぬ誤動作や意図しないデータの持ち出し、悪意ある指示への迎合（ジェイルブレイク：AIに設けられた制限を、巧妙な指示によって回避させる行為）といったリスクも指摘されてきました。AIUCの創業者Rune Kvist氏は、「企業が導入をためらうのは、顧客に対してシステムの挙動を約束しているのに、それを誰も保証できないからだ」と説明しています。
共同創業者のRajiv Dattani氏が在籍していたMETRは、AIモデルの危険度を評価する第三者機関として知られています。安全性評価の専門知識を持つ2人が、投資家からの大型出資を受けて事業化に踏み出した格好です。
背景には、企業でのAIエージェント導入が急速に広がる一方、責任の所在があいまいなまま現場に投入されるケースが増えているという実情があります。金融機関や医療機関のように規制の厳しい業界ほど、第三者による裏付けなしにAIエージェントの本格導入に踏み切りにくいという事情も、AIUCのような認証ビジネスが成り立つ土壌になっています。
技術/ビジネス面
AIUCが策定した認証基準「AIUC-1」では、対象のAIエージェントに約5000項目のテストを実施します。ジェイルブレイクへの耐性のほか、事実と異なる情報をもっともらしく生成してしまう「ハルシネーション（hallucination：AIが誤った情報を、あたかも事実であるかのように生成する現象）」の発生率、機密データの漏えいリスクなどを検証し、最終的に100ページ規模の監査レポートにまとめます。
興味深いのは、このテスト自体もAIエージェントが実施している点です。大量のテストケースをAIが自動で実行・分析し、その結果を人間が最終確認するという体制を取っています。人手だけでは対応しきれない検証量を、AIの力を借りてこなす仕組みといえます。
資金調達は総額5500万ドルで、Ribbit Capitalが主導する4000万ドルのシリーズAに加え、以前実施した1500万ドルのシード資金も含みます。シード投資家にはNat Friedman氏のNFDGやEmergence、Terrainのほか、Anthropicの共同創業者Ben Mann氏の名前も並びます。
これからどうなるか
AIUCはすでに、コーディング支援のCursorやノーコード開発のLovable、法律AIのHarvey、音声合成のElevenLabsといった企業を顧客に持つといいます。今後は銀行や病院、政府機関、さらには軍関係の組織など、より高い安全性が求められる分野への展開も視野に入れているとのことです。
開発者にとっても示唆的な動きです。自社サービスにAIエージェント機能を組み込む際、SOC 2のような第三者認証を取得できれば、企業顧客との商談を進めやすくなる可能性があります。今後、こうした認証取得がAIエージェント関連プロダクトの営業上の「入り口」になっていくかもしれません。
特に金融や医療、公共分野向けにAIエージェントを提供しようと考えているチームは、開発の初期段階から想定される監査項目を意識しておくと、後々の営業活動がスムーズになりそうです。
まとめ
AIエージェントの導入を阻む最大の壁は「安全性を保証できない」という不安です。AIUCが打ち出す第三者認証という解決策は、AIエージェント市場が一段と拡大するための土台になる可能性があります。5500万ドルという調達額の大きさは、この課題への投資家の期待の表れといえるでしょう。
参考リンク
アイキャッチ画像: Photo by Google DeepMind on Unsplash
