コンテンツ審査を手がけるMusubiは10月6日、軽量な「判断モデル」PolicyLM-1.7Bをオープンウェイト（学習済みの重みを公開する形式）で公開しました。パラメータ数は17億です。英語で書いたポリシー文を読み込み、投稿が該当するかどうかを50ミリ秒未満で二択で返します。ルールが変わるたびの再学習が要らないため、リアルタイム審査に組み込みやすい設計です。
背景と文脈
従来の審査は、分類器（classifier）が主役でした。分類器とは、入力が事前に決めたカテゴリのどれに当たるかを判定する小型のモデルです。高速で安価ですが、ポリシーが変わると教師データを作り直して再学習しなければなりません。
一方で、LLM（Large Language Model、大規模言語モデル）に審査を任せる方法もあります。ルール文をプロンプトに入れれば柔軟に動きますが、遅くて高価です。リアルタイム審査では負担になります。
その間を埋めるものとして、「判断モデル（decision model）」が今年注目されています。9月にTypeSafe AIがJevを出したのを皮切りに、OpenAIとAmazonからも競合モデルが続きました。本サイトでも先週、AWSの2Bモデルを紹介しています。
技術/ビジネス面
PolicyLM-1.7Bは、ポリシーと対象テキストの2つを入力として受け取ります。出力は「該当する／しない」の二値判断です。長い文章を生成するのではなく、結果の確率を返すことに特化しています。そのため、LLMより速くて安く動かせます。
鍵になるのは、ポリシーをモデルの外に置く点です。「暴力的な脅迫を禁止する」といった規約を平易な英語で書き換えるだけで、判断基準が変わります。分類器のように再学習を挟まないため、ポリシー改定の反映が早くなります。
処理時間は50ミリ秒未満で、コストと速度は既存の分類器と同程度とされています。共同創業者でチーフAIオフィサーのFilip Jankovicは、この系統の源流に2024年のGLiNER（Generalist Model for Named Entity Recognition、固有表現抽出の汎用モデル）を挙げます。同じTransformer系の技術を、より汎用の判断に広げた流れです。
Musubiは用途を人間のユーザーの投稿に限らず、AIエージェントの行動の監視にも使えるとしています。エージェントが出した出力やツール呼び出しを、同じ仕組みでチェックする想定です。
これからどうなるか
判断モデルが定着すれば、審査の設計が変わります。軽い判断はこの種のモデルで即座に処理し、迷う案件だけをLLMや人に回す多段構成が標準になるでしょう。コストを抑えつつ、ルールの柔軟性を保てます。
開発者には手の届きやすい話です。1.7Bクラスのモデルは、1台のGPUや高性能なCPUでも動かせる規模です。オープンウェイトなので、自社の利用規約を英語のポリシー文にして、手元のAPIに組み込み、試験できます。入力フィルタやエージェントのガードレール（安全柵）を作る際の選択肢が1つ増えます。
確認すべきは精度です。日本語など英語以外のポリシーや投稿でどこまで通用するか、公開情報では分かりません。導入前には、自社データでの評価が欠かせません。
まとめ
PolicyLM-1.7Bは、英語のポリシー文を読んで即座に二択で判断する軽量モデルです。再学習なしでルールを更新でき、50ミリ秒未満で動きます。多言語での精度は未確認なので、自社データでの検証から始めるとよいでしょう。
参考リンク
アイキャッチ画像: Photo by Melanie Deziel on Unsplash
