DeepMind、AI規制の独立機関設立をFINRA型で提案

Google DeepMindのCEOを務めるデミス・ハサビス氏が、フロンティアAI（性能で最先端に位置する大規模AIモデル）の安全性を審査する独立機関の新設を提案しました。TechCrunchによると、X（旧Twitter）に投稿した文書で明らかにしたもので、モデルは米国の証券会社を監督する自主規制団体FINRA（金融取引業規制機構）です。当初は各AI企業が任意でモデルを提出する仕組みとし、将来的には義務化も視野に入れています。AI規制を巡る政治的な綱引きが続くなかでの提案です。

背景と文脈
技術/ビジネス面
これからどうなるか
まとめ
参考リンク

背景と文脈

背景には、米政府が最近実施した審査への批判があります。Anthropicのフロンティアモデル「Mythos」とOpenAIの「Sol」は、リリース前に政府主導の臨時審査を受けました。ただしこの審査は専門知識の不足や、判断過程の不透明さを指摘され、業界内外から疑問の声が上がっています。いずれも各社が開発を進める次世代のフロンティアモデルで、社会への影響が大きいとみて臨時に審査対象へ選ばれた経緯があります。ハサビス氏の提案は、こうした場当たり的な審査に代わる恒久的な仕組みを作る狙いがあるとみられます。

一方でAI規制を巡る米国の政治情勢は複雑です。ホワイトハウスでAI政策を担うSriram Krishnan氏は、医薬品を審査する米食品医薬品局（FDA）のような強制力を持つ規制機関は作らないと明言しています。AI業界への介入に慎重な政権の姿勢のもと、正式な法規制には業界からの反発も根強い状況です。ハサビス氏が示した自主規制かつ業界資金による枠組みは、こうした政治的な逆風を避けつつ外部審査の実効性を確保しようとする、現実的な落としどころといえます。

技術/ビジネス面

政府庁舎の外観 — Photo by Sonder Bridge Photography on Unsplash

提案の核心は、証券業界の自主規制団体FINRA（金融取引業規制機構、証券会社の営業や取扱商品を監督する非政府組織）をモデルにした運営方式です。まずは各AI開発企業が、フロンティアモデルの公開予定日の最大30日前に、任意でこの機関に情報を提出します。機関側は性能や安全性を審査し、懸念があれば公開前に指摘する仕組みです。指摘を受けた企業は、公開日を迎える前に修正や追加の安全対策を講じることが期待されています。

運営はオープンソースコミュニティの代表者と、業界出身の技術専門家が担う想定です。特定分野のリスクについては、専門のAI安全性評価団体に審査を外部委託することも視野に入れています。資金は参加するAI企業自身が負担しつつ、機関としての正統性は米政府の後ろ盾で担保する二段構えです。ハサビス氏は「A Framework for Frontier AI and the Dawning of a New Age」と題した投稿で、この仕組みを「技術に軸足を置きながら、同時にイノベーションを支える」ものだと説明しています。

審査の対象はモデル公開前だけではありません。公開後に脆弱性が見つかった場合も、開発企業がこの機関と連携して対応にあたる仕組みを想定しています。運用実績が積み上がり、審査の有効性が確認できれば、将来的には米国市場向けモデルの審査を義務化する段階へ移行する可能性もあるとしています。

これからどうなるか

実現に向けた最大のハードルは、参加企業をどこまで集められるかです。GoogleやAnthropic、OpenAIといった主要ラボが足並みをそろえなければ、審査の実効性は限定的にとどまります。競合他社を出し抜きたいという競争圧力のなかで、公開前レビューに自主的に協力する企業がどれだけ現れるかが、この枠組みの成否を左右します。資金力に乏しいスタートアップほど、審査への対応コストが重荷になる可能性もあります。

開発者にとっても無縁の話ではありません。フロンティアモデルの審査が制度化されれば、新モデルの公開ペースや、公開前後に開示される安全性情報の粒度が変わる可能性があります。既存のAPIを組み込んだプロダクトを運用しているなら、モデル更新の告知タイミングや脆弱性開示の頻度が今より予測しやすくなるかもしれません。逆に審査に時間がかかれば、待望のモデル更新が数週間単位で後ろ倒しになる場面も出てくるでしょう。当面は米政府の反応と、大手ラボの参加表明の有無に注目が集まります。