Metaは10月7日、無害に見える広告が児童性的虐待コンテンツへ誘導する手口を見つける、新しいAIツールを発表しました。LLM（Large Language Model、大規模言語モデル）で広告の「誘導先」を調べ、危険なサイトの遮断と関連アカウントへの措置につなげます。2026年上半期には、FacebookとInstagramで3,320万件の児童搾取コンテンツに対処しました。
背景と文脈
広告審査は、これまで広告の画像や文面を中心に見てきました。しかし悪意のある出稿者は、広告自体を普通の内容にしておき、リンク先や別の場所で違法な内容へ導きます。Metaは、この手口を「サインポスティング」と呼びます。看板（サイン）だけが無害で、行き先が問題だという意味です。
Metaは児童の安全対策を続けてきました。2026年だけでも、2月にInstagramの自傷関連検索への警告、3月にWhatsAppの低年齢向けアカウント、4月にMeta AIの保護者向け管理機能、9月にWhatsAppの保護者向け管理の拡大を出しています。8月には、米国の29州との間で180億ドルの和解にも至りました。
規制当局や訴訟の圧力が強まる中で、プラットフォーム側の検出精度が問われています。
技術/ビジネス面
新ツールの核心は、見る対象の変更です。広告のコンテンツだけでなく、広告が利用者をどこへ送るかを分析します。送り先が判明すれば、その宛先サイトをブロックし、出稿元のアカウントにも措置を取れます。1件ずつ広告を消すより、手口の根元を断てる点が利点です。
構成は3つです。1つ目は、サインポスティングを見分けるLLMです。広告の文脈と誘導先の関係から、危険な誘導を判断します。2つ目は、レッドチーミング用のAIエージェントです。レッドチーミングとは、攻撃者の立場で防御の穴を探す試験を指します。エージェントが自動で抜け道を試し、検出の弱点を洗い出します。3つ目は、新しいアカウントで戻ってくる常習者を見つける仕組みの改善です。
実績として、2026年上半期にFacebookとInstagramで3,320万件の児童搾取コンテンツに対処し、97%はユーザーの通報前に自社システムが検出しました。インドでは530万件で、検出率は98%でした。
これからどうなるか
今後は、検出と回避のいたちごっこが続くでしょう。誘導先を調べる方式が広まれば、出稿者は中間ページや短縮URLなど、さらに間接的な経路を使うかもしれません。レッドチーミングを自動化したのは、その変化に素早く追従する狙いです。
開発者にとっての示唆は、コンテンツの審査を「単体」で完結させない設計です。ユーザー投稿やリンクを扱うサービスでは、本文だけでなくリンク先の評価や、アカウント履歴を組み合わせた判定が有効になります。LLMを審査に使う場合も、最終判断の記録と誤検出時の救済手段を用意しておくべきです。
ただしMetaの数字は自社の発表であり、第三者による検証はありません。検出率の高さと、見逃しの実態は別の問題です。
まとめ
Metaは、広告の中身ではなく誘導先を調べるAI検出を導入し、LLMとレッドチーミング用エージェントを組み合わせました。検出率は高いと説明しますが、数字は自己申告です。リンク先まで含めて審査する考え方は、他のサービスにも応用できます。
参考リンク
アイキャッチ画像: Photo by Brooke Lark on Unsplash
