米国防総省、イラン学校誤爆の一因にPalantir製AI依存

network security abstract image AI

米国防総省の内部調査で、2026年2月28日にイラン南部ミーナーブの小学校で子供123人を含む150人以上が死亡したトマホークミサイル攻撃について、AI標的選定システムへの過度な依存が一因だったと結論づけられました。調査を報じたBloombergによれば、古い衛星画像情報や拙速な標的選定手続き、民間人保護要員の大幅な削減が重なり、「防げたはずの失敗の連鎖」が起きたとされています。開発者にとっても、AIを重要な意思決定に組み込む際のリスクを考えるうえで見過ごせない事例です。

背景と文脈

攻撃が起きたのは、米国とイスラエルによる対イラン軍事作戦の初日にあたる2026年2月28日です。トマホークミサイルがイラン南部ミーナーブにあるShajarah Tayyebeh小学校を直撃し、子供123人を含む150人以上が死亡しました。米国防総省はこの攻撃について内部調査を実施し、標的選定の過程に複数の問題が重なっていたと結論づけています。

調査の中心にあるのが、Palantir社が開発したMaven Smart Systemです。これは衛星画像や通信情報など大量のデータを統合し、AIが攻撃候補となる標的を提示する国防総省向けのプラットフォームで、契約総額は最大13億ドルとされています。Bloombergの調査報道によれば、標的選定に関わった要員が同システムの出力に過度に頼り、根拠となるデータの鮮度や妥当性を十分確認しないまま手続きが進んだといいます。

技術/ビジネス面

データ分析画面のイメージ
Photo by 2H Media on Unsplash

調査で判明した問題は、AIの技術的な欠陥というより運用体制の欠陥に近いものでした。あるアナリストは2019年の時点で、この施設が学校として使われている兆候に気づき、記録を残していました。ところがその記録は、標的選定チームが参照する主要な軍事情報データベースには接続されていない別のシステムに保存されていました。施設の民間利用という重要な情報が何年も標的選定チームに届かなかったとThe Japan Timesは報じています。

同時に、民間人への被害を減らす専門部隊「文民被害軽減(CHM)チーム」の人員も大幅に減らされていました。ヘグセス国防長官の指示により、国防総省全体でCHM要員は約90%削減され、中央軍(CENTCOM)のCHMチームは10人から1人にまで縮小されていたといいます。この削減は複数の司令官が反対したにもかかわらず実行されたとDefense Oneが報じており、ミーナーブの標的についても攻撃前にCHM担当者による確認は行われませんでした。開戦初日という時間的制約の中、標的の最終確定が急がれたことも重なりました。なお、Palantir社は「基礎データの不備や情報の欠陥を特定する責任は自社にはない」との立場を示し、攻撃後には人間によるレビューで見落とされがちな矛盾点や除外すべき要因を、AIが基礎情報まで遡って再確認する機能を追加したと説明しています。

これからどうなるか

今回の件が示すのは、AIによる判断支援と人間による確認体制は、セットで機能して初めて意味を持つという点です。AIツールへの依存度が上がる一方で、それを検証する人員が削られれば、両者の間にできた隙間がそのままリスクになります。米議会では今回の削減を含む一連の経緯についてさらなる調査を求める動きも出ており、防衛分野に限らずAIガバナンス全体への関心が高まっています。

開発者の視点では、AIの出力を安全性に関わる意思決定にそのまま使わない設計が重要になります。今回のように、重要な情報が孤立したデータベースに眠っていてAIの入力に届かないという事態は、防衛システムに限った話ではありません。社内のRAG(検索拡張生成)基盤やエージェント型システムでも起こり得ます。参照データの網羅性と鮮度をどう担保するか、そしてAIの提案を人間が最終確認する工程をコスト削減の対象にしないことが、システム設計上の教訓になります。

まとめ

米国防総省の調査は、イランの小学校への誤爆について、古い衛星情報や拙速な手続き、人員削減、AIへの過度な依存が重なった結果だったと結論づけました。AIを重要な判断に組み込む際は、データの鮮度確認と人間によるレビュー体制の維持が欠かせないことを示す事例です。

参考リンク

タイトルとURLをコピーしました