米NVIDIA（エヌビディア）のジェンスン・フアンCEOが、AIの安全性について「政府による新しい規制ではなく、各社が自社の責任で技術的に対応すべきだ」との考えを示しました。発言があったのは9月15日、Salesforce主催のカンファレンス「Dreamforce 2026」の壇上です。同じ舞台にはAnthropicのダリオ・アモデイCEOとOpenAIのサム・アルトマンCEOも同席しましたが、両氏は開発を減速してでも安全対策を優先すべきだと訴えました。AI業界を代表する3人のCEOが、規制のあり方をめぐって公然と意見を違えた格好です。
背景と文脈
AIの安全性を巡る規制論争は、この1年で急速に存在感を増しています。EU AI Act（欧州連合が2024年に成立させた、リスクの大きさに応じてAIの開発・利用を規制する法律）を皮切りに、各国政府がAIに独自のルールを課す動きを強めてきました。米国内でも州単位でAI関連法の制定が相次ぎ、企業側は対応コストの増大を懸念しています。
一方でAnthropicは創業時から「AIの安全性を最優先する」ことを掲げ、OpenAIも大規模モデルの挙動を人間の意図に沿わせるアライメント（alignment：AIの出力や振る舞いを人間の価値観・目的に合わせ込む取り組み）の研究に力を入れてきました。フアン氏自身も、トランプ大統領とAI開発を減速させない方向で意見交換したと報じられており、NVIDIAは半導体需要の観点からもAI開発ペースの維持に強い利害を持っています。
各国の議会でも、能力の上限を絶えず押し広げる最先端モデル、いわゆるフロンティアAI（性能・自律性の面で最先端にある大規模AIモデルを指す呼び方）のリスクを巡る公聴会や有識者会合が相次いでいます。規制当局とAI企業の間の緊張は、この数カ月でむしろ強まっている状況です。
つまり今回の発言は単発の放言ではなく、開発を加速させたい半導体企業と、安全性を重視する研究寄りのAI企業という、業界内に元々あった立場の違いが公開の場で表面化した出来事といえます。
技術/ビジネス面
Dreamforce 2026はSalesforceが毎年サンフランシスコで開く大型カンファレンスで、今回は基調セッションのテーマに「AIの安全性」が据えられました。主催者のマーク・ベニオフ氏が司会を務め、約1万2000人の来場者を前に、フアン氏・アモデイ氏・アルトマン氏の3人が順に見解を語りました。
TechCrunchの報道によると、フアン氏は「安全性は法律の問題ではなく、エンジニアリングの問題だ」と述べ、AIはあくまで人間が作ったソフトウェアとハードウェアであり、既存の技術者の手で制御できると強調しました。開発速度と安全性を天秤にかける発想自体を「誤った二択」と呼び、「不安を感じた時点で一旦立ち止まり、確実に安全だと言えるものだけを世に出せばいい」と述べています。新しい法律や規制は「必要ない」とも言い切りました。
これに対しアモデイ氏は、モデル開発のペースを意図的に緩めてでも安全性の検証を優先すべきだとの立場を崩さず、CNBCの報道では「業界全体を良い方向に導くには、自分たちが手本を示すべきだ」と語ったと伝えられています。アルトマン氏もおおむねアモデイ氏の慎重論に同調し、フアン氏1人が規制にも減速にも否定的という構図が鮮明になりました。
もっとも、フアン氏の主張には利害の面で疑問符も付いています。NVIDIAはAI向け半導体の販売で業績を伸ばしており、開発ペースが落ちれば売り上げに響く立場です。TechCrunchの記事も、大手企業の基幹システムを止めた過去のソフトウェア障害や、子ども向けサービスの安全問題で和解金の支払いに至った事例を挙げ、企業任せの自主規制だけに安全性を委ねる危うさを指摘しています。
これからどうなるか
この対立は経営者同士の言い争いにとどまらず、AIプロダクトを作る開発者にとっても実務上の分かれ目になります。フアン氏の言う自主規制路線が業界標準になれば、各社が独自の安全基準を持つだけで、外部の統一ルールは当面整わない可能性があります。逆にアモデイ氏らの主張が広がれば、モデル提供元による利用制限や審査の負荷が増し、APIの提供条件が厳しくなる場面も増えそうです。
開発者としては、法規制の有無にかかわらず、自社のAI機能にレッドチーム（red-teaming：AIモデルの弱点や誤動作を意図的に探り出す社内検証の手法）を組み込んでおく実利は変わりません。政府のルールが整う前に事故や誤用が起きれば、規制強化どころか自社サービスの信頼失墜に直結するためです。今回の議論は、規制を待つのではなく自分たちのプロダクトにどこまで安全対策を作り込むかを見直す良い機会になりそうです。
日本の開発者にとっても他人事ではありません。NVIDIA製GPUや米国発のAIサービスを組み込んだプロダクトを提供する場合、直接の規制対象は米国企業でも、利用側の自社サービスに独自の安全審査や利用ガイドラインを求められる場面は今後増えていきそうです。
まとめ
NVIDIAのフアンCEOは、AIの安全性を「エンジニアリングの課題」と位置づけ、政府による新規制に否定的な考えを示しました。同じ壇上でAnthropicのアモデイCEOとOpenAIのアルトマンCEOは慎重な開発を求めており、業界トップの間で自主規制か政府規制かを巡る溝がはっきりと表れています。今後の議論の行方は、AI関連プロダクトを開発する側にも影響しそうです。
参考リンク
- We don’t need AI regulation — leave safety to us, Nvidia’s Jensen Huang says（TechCrunch）
- Nvidia’s Huang diverges with CEOs of Anthropic, OpenAI on AI safety at Dreamforce（CNBC）
アイキャッチ画像: Photo by Kerde Severin on Unsplash
