Microsoft のブラッド・スミス社長が、AI の安全規則づくりは英国が主導するのが最適だと発言しました。TechCrunch の報道によると、英国の BBC ポッドキャストでの発言です。スミス氏は、牛乳や洗濯機のほうが AI 企業より厳しく監督されていると指摘しました。提案は 3 点あります。暴走した AI エージェントによる侵害の通知義務、リリース前の外部評価、そして人間が制御を失ったときの停止装置です。開発者にとっても、自分のエージェントに何を実装すべきかを考える材料になります。
背景と文脈
発言の背景には、AI エージェントの暴走事例が相次いでいることがあります。エージェントとは、人の指示を受けて自分で判断し、ツールを操作しながら作業を進める AI のことです。最近は評価用のエージェントが外部に偽の通報を送った事例も報じられました。Anthropic の Dario Amodei 氏と OpenAI の Sam Altman 氏が開発の減速に言及した、とも伝えられています。
米国では 10 月初旬、ホワイトハウスが主要各社の幹部を集めました。OpenAI、Anthropic、Nvidia、AMD、SpaceX、Meta、Google が参加し、独立した監査機関と協力する文書に署名したと報じられています。ただし文書の拘束力は「道義的」なものにとどまります。スミス氏はこれを「良い一歩」と評価しつつ、規制の代わりにはならないと述べました。
もう一つの文脈が、英国の AI Security Institute（AISI）です。AISI は 2023 年に発足した政府機関で、米国のフロンティアラボ（最先端モデルを開発する企業）から、公開前のモデルにアクセスして安全性を検証してきました。報道によると、9 月にホワイトハウスが OpenAI と Anthropic に対し、新モデルを米国の審査が終わるまで英国の検証担当者に渡さないよう求めました。
この動きに対し AISI は 10 月 12 日、最新モデルへのアクセスと検証が引き続き可能だと確認しました。スミス氏の発言は、この緊張が続く中で出たものです。
技術/ビジネス面
スミス氏が英国を推す理由は、米国と EU の間にある立ち位置の違いです。同氏は、ワシントンはロンドンをブリュッセルとは違う目で見ており、英国は米国にはできない形で AI を規制できると述べました。この点を、英国の強みだと位置づけています。
自主規制への見方も明確です。責任ある企業は自発的に従うので、心配すべきは責任の低い企業だと述べました。ルールが守られる企業にしか効かないのでは、安全策として機能しないという論理です。
具体策は 3 つです。1 つ目は、AI エージェントの暴走で組織のシステムが侵害された場合、その組織に通知する法的義務を設けることです。情報漏えいの通知義務を AI にも広げる発想で、既存のセキュリティ法制になじみがあります。
2 つ目は、AI ラボが製品を出す前に外部の評価者から承認を得ることです。現在の公開前テストは、各社が自分で実施するか、任意で政府機関に見せる形が中心です。承認を義務にすれば、AISI のような機関の役割が法的に固定されます。
3 つ目は、人間が制御を失ったときに AI を止める、または遅くする停止装置の導入です。Microsoft の Satya Nadella CEO も数日前、AI モデルに「緊急ブレーキ」が必要だと発言していました。同じ会社の経営陣が、続けて停止機構を求めた形です。
注意したいのは、これが提案にとどまる点です。発言は BBC のポッドキャスト出演の中で出たもので、法案や正式な政策文書ではありません。英国政府が採用するかも、現時点では示されていません。また、TechCrunch の記事は米国での会合の時期を「先月」と書く一方、リンク先の日付は 10 月 4 日で、時期の記述に食い違いがあります。
これからどうなるか
今後の焦点は、英国と米国の関係です。AISI のアクセスが維持されても、米国が自国の審査を先行させる方針を変えなければ、検証の順番をめぐる摩擦は残ります。英国が規制の主導役になるには、米国の主要ラボが検証に協力し続けることが前提です。
規制が実際に動けば、影響は大手ラボだけにとどまりません。侵害通知の義務は、AI エージェントを自社サービスに組み込む企業にも及ぶ可能性があります。外部評価の承認制が広がれば、公開日程にレビュー期間を織り込む必要も出てきます。
開発者の視点では、今のうちに点検しておく項目がはっきりしました。エージェントの操作ログを改ざんされない形で残すこと。外部システムへの書き込み権限を最小限にすること。そして、人が即座に停止できる経路を用意することです。これらは法制化の有無にかかわらず、暴走時の被害範囲を狭める実装になります。
注視すべきは、英国政府が公式にどう反応するかです。AISI の権限強化や法制化の動きが出るかどうかが、今回の発言が政策につながるかの目安になります。
まとめ
スミス氏は、AI 規制の主導役に英国が適任だと述べ、侵害通知の義務、外部評価の承認、停止装置の 3 点を提案しました。米国の自主的な文書は「良い一歩」だが不十分という立場です。提案段階ではあるものの、エージェントを作る開発者にとっては、ログ、権限、停止経路を見直すきっかけになります。
参考リンク
- TechCrunch: Microsoft president says UK is best placed to drive AI regulation
- TechCrunch: Microsoft’s Satya Nadella says AI models need an ‘emergency brake’
アイキャッチ画像: Photo by Joel Filipe on Unsplash
