Amazon、希少本を裁断しAI学習データに 404Media暴く

調査報道メディア404 Mediaが、Amazonが希少な古書を購入したうえで背表紙を裁断してスキャンし、AIモデルの学習データにしていたことを明らかにしました。書籍にGPS発信機を仕込んで追跡した結果、たどり着いたのはラスベガスにあるAmazonの施設。原本は裁断によって失われ、その知識は同社のAIモデルの中に取り込まれていました。

背景と文脈
技術/ビジネス面
これからどうなるか
まとめ
参考リンク

背景と文脈

大規模言語モデルは、インターネット上で手に入りやすいテキストをすでにほぼ学習し尽くしたと言われています。新たな学習データを確保する競争のなかで、AI企業各社が目を付けたのが電子化されていない紙の書籍、とりわけ絶版・希少本です。2022年以前に出版され、ネット上に存在しない文章はAI生成コンテンツに汚染されていない「きれいな」データとして価値が高く、AIが自らの生成物ばかりを学習して品質が劣化する「モデル崩壊」を避けるうえでも重宝されます。人間が長年かけて書いた文章は、量産される合成テキストにはない語彙の幅や論理展開を持っているとされ、学習データとしての希少性が増しています。皮肉にも、AIが普及すればするほど「AIが生成していない文章」自体の市場価値が上がるという逆転現象が起きているわけです。

書籍データを巡っては、Anthropicが海賊版書籍を学習に使ったとして法的な代償を払った例もあり、AI企業と出版・著作権の関係はこの数年で緊張を増してきました。今回明らかになったのは、海賊版ではなく正規購入という別のルートでの書籍利用の実態です。合法的な取得であっても、原本を破壊してしまう点が新たな論点として浮上しています。著作権法上は問題がなくても、文化財としての側面を持つ稀覯本を工業的に裁断するという行為そのものが、社会的な受け止められ方として別問題であることを今回の報道は示しています。

技術/ビジネス面

開いた古書のページ — Photo by Mel Poole on Unsplash

404 Mediaの調査によると、記者は希少本の中にGPS発信機を隠して出品・購入させ、その追跡データからラスベガスにあるAmazonの施設「VGT3」にたどり着きました。施設の入り口には、本をかぎ爪でつかんだ恐竜のロゴが掲げられていたといいます。取材に応じた作業員によると、スキャンを速く済ませるために背表紙を裁断しており、その過程で原本は失われます。取り込まれたデータはAmazon独自のAIモデル群「Nova」の学習に使われているとされます。Amazon側は「顧客が使う製品・サービスを向上させるため、正規の商流を通じて書籍を購入している」とコメントするにとどまり、裁断という手法自体への言及は避けています。

これからどうなるか

希少本は世界に数冊しか現存しないものも珍しくなく、裁断によって原本が失われれば、その内容は事実上、一企業の非公開AIモデルの中にしか残らなくなります。図書館や研究者がアクセスできる知識が、営利企業の学習データという形に閉じ込められてしまう構図への批判は強まりそうです。古書店や図書館が今後、希少本の売却先や貸出先を選ぶ際に、AI学習目的での利用を制限する動きが出てくる可能性もあります。

開発者にとって直接の実害は小さく見えるかもしれませんが、学習データの出所や希少性を巡る規制・訴訟リスクは、AIベンダーを選ぶ際に無視できない要素になりつつあります。自社サービスの基盤モデルを選定する際は、学習データの調達方針を公開しているベンダーかどうかも、性能やコストと並ぶ判断材料になってくるでしょう。データ調達の透明性を欠いたまま規模だけを追う姿勢は、将来的な法規制の強化やブランドイメージの毀損というかたちで、企業側にコストとして跳ね返ってくる可能性もあります。