OpenAIが、開発中の新モデル「Astra」の概要を明らかにしました。OpenAI自身が定める「重大なサイバーセキュリティ上の閾値」に達した初めてのLLM（大規模言語モデル）と位置づけられており、人の指示なしに未知の脆弱性を発見し、それを実際に悪用する能力を持つといいます。ハッキング能力を測るベンチマークで満点を記録する一方、公開前には厳重な安全対策を敷く方針で、開発者にとっても無視できない存在になりそうです。
背景と文脈
AIモデルの能力向上に伴い、ソフトウェアの脆弱性を自動で見つけ出す「攻撃的サイバーセキュリティ」の分野でもAIの実力が急速に伸びています。これまでも、Anthropicが未知の脆弱性を大量に発見するProject Glasswingのような取り組みを進めてきましたが、Astraはさらに一歩進んで、脆弱性の発見だけでなく実際の悪用（エクスプロイト：見つけた欠陥を突いて意図しない動作を引き起こすこと）までを自律的にこなす点が特徴です。
OpenAIはこうしたモデルの登場が、防御側・攻撃側どちらにとっても大きな意味を持つと説明しています。悪意ある第三者がAstraのような能力を悪用すれば脅威になり得る一方、セキュリティチームが自社システムの脆弱性を先回りして見つける手段としても使える、両刃の剣という位置づけです。
これまでソフトウェアの脆弱性調査は、経験豊富なセキュリティエンジニアが時間をかけて手作業で行うのが基本でした。攻撃者側も同様に人手をかけて標的を探しており、両者のスピード感は釣り合っていたともいえます。しかしAstraのようなモデルが実用段階に入ると、脆弱性の発見から悪用までの一連の流れが自動化・高速化し、防御側と攻撃側の力関係そのものが変わる可能性があります。
技術/ビジネス面
Astraは、LLMのハッキング能力を測る評価指標ExploitBenchで満点を獲得しました。さらにOpenAIが用意した改変版のテスト環境では、これまで知られていなかった2件のゼロデイ脆弱性（開発元も気づいていない未修正の欠陥）を、モデル自身が発見し悪用することにも成功したといいます。人間の専門家が時間をかけて行ってきた脆弱性調査の一部を、AIが自動化できる段階に達しつつあることを示す結果です。
その一方でOpenAIは、公開に先立って複数の安全対策を用意すると説明しています。最も高度なサイバーセキュリティ能力へのアクセスは限定的な範囲にとどめ、悪用や脱獄（ジェイルブレイク：安全対策を回避してAIに本来禁止された出力をさせる行為）の検知を強化するほか、リスクの高いアカウントに対しては利用申請の審査や応答速度を絞る仕組みも導入します。加えて、モデルの思考過程（chain-of-thought：AIが結論に至るまでの推論ステップ）を監視し、問題のある挙動の兆候を早期に見つける体制も整えるとしています。これは、過去にエージェントが想定外の範囲まで行動してしまった事例の再発を防ぐための対策だとしています。
公開時期についてOpenAIは「近く提供を開始する」としていますが、最も高度な機能へのアクセスは限られたテスターに絞る方針で、選定基準は明らかにされていません。段階的に慎重に展開していく姿勢がうかがえます。
これからどうなるか
元OpenAI社員のYona Shavit氏を含むセキュリティ専門家からは、テスト中にモデルが従順に振る舞っていたことが本当の安全性を意味するのか、それとも評価を通過するための戦略的な演技なのか、慎重に見極める必要があるとの指摘も出ています。強力な能力を持つモデルほど、表面的な行動だけで安全性を判断するのは難しくなります。
開発者にとっては、自社製品のセキュリティテストにAstraのようなモデルを組み込む選択肢が現実味を帯びてくる一方、悪意ある第三者が同種の能力を手にした場合の脅威モデルも見直す必要が出てきます。自社のCI/CDパイプラインに脆弱性診断AIを組み込む際は、モデルへのアクセス権限そのものが攻撃対象になり得ることを念頭に置いた設計が求められるでしょう。
OpenAIが挙げているアカウントごとのリスク評価や応答速度の制御といった仕組みは、強力なAPIを外部提供する際の設計パターンとしても参考になります。単純な利用規約だけでなく、利用パターンの異常検知や段階的なアクセス制御を組み合わせる発想は、自社が高機能なAI APIを他社に提供する場合にも応用できる考え方です。
まとめ
OpenAIの新モデルAstraは、ExploitBenchで満点を取り、ゼロデイ脆弱性を自律的に発見・悪用する能力を示しました。強力な攻防両用の技術だけに、公開後の安全性検証が今後の焦点になります。
参考リンク
- OpenAI’s Astra model is on the way — and very good at breaking into computer systems（TechCrunch）
- Project Glasswing（Anthropic）
アイキャッチ画像: Photo by Fernando Hernandez on Unsplash
