米ブラウン大学の学生Cunyan Maさんが、AIの学習を支えるデータ作業者の分布を示す無料の地図を公開しました。データにラベルを付ける会社13社と、その顧客企業141社、作業拠点のある31か国を線で結んでいます。大学が10月26日に紹介しました。AIの裏側にある人の手作業を、どこの誰が担っているのかを見えるようにする試みです。
背景と文脈
AIは機械だけで賢くなるわけではありません。写真に写った物に名前を付ける、文の品詞を付ける、長い音声を書き起こすといった作業を、人が大量にこなしています。医療画像で腫瘍の境目をなぞる作業もあります。
チャットボットの開発では、人の評価がさらに重要になります。RLHF（Reinforcement Learning from Human Feedback、人間のフィードバックに基づく強化学習：人が回答の良し悪しを採点し、その結果でモデルを調整する手法）では、作業者が大量の回答を見比べて点を付けます。有害な画像や文章をAIに見分けさせるため、人がそれを1件ずつ確認する仕事もあります。精神的な負担が大きい作業です。
こうした作業の多くは、ラベル付けの専門会社に外注されています。専門会社は安い労働力を求め、ケニア、インドネシア、コロンビアなど南半球の国々に拠点を置くことが少なくありません。ただし、どの企業がどの会社に仕事を出し、どこで作業しているのかは外からほとんど見えません。サプライチェーン（部品や作業が最終製品に届くまでの供給の連なり）が意図的に不透明にされている、とMaさんは指摘します。
技術/ビジネス面
地図は、3種類の情報を重ねて作られています。ブラウン大学の発表によると、1つ目はラベル付け会社と顧客企業を記録した既存のデータベースです。2つ目は、Maさんが独自に集めたラベル付け会社の作業拠点の一覧で、作業者の居場所の目安として使っています。3つ目は、労働環境を伝える報道です。
見せ方には「パワーマッピング」という手法を使いました。企業や拠点を点として置き、取引の関係を線で結んで、力の流れを見えるようにする方法です。顧客には、SNSやテック企業だけでなく、小売や防衛の企業も含まれています。地図はWebで公開されており、誰でも見られます。
Maさんは、この地図を網羅的なものではなく、全体像を示す一例だと位置づけています。業界が情報を出さない以上、すべてを集めるのは難しいからです。それでも点と線で関係を示すと、AIの価値がどこで生まれ、どこへ流れていくのかが直感的に分かります。Maさんは、南半球の安い労働で西側の企業が利益を得る構図を「AI植民地主義」と呼んでいます。
指導教員でコンピューター科学者のSuresh Venkatasubramanian教授は、AIは人の努力を集めたものだと強調します。AIに意識があるかのような語り方は、この事実を見えにくくするという立場です。教授は「その下にいるのは、すべて人間だ」と述べています。
これからどうなるか
Maさんは地図を広げるとともに、半導体業界の労働も地図にする計画です。データ作業は世界中に散らばっており、作業者同士が互いを知らないまま働いています。そのため労働組合を作るのも難しいのが現状です。将来の地図が、作業者同士がつながる手段になる可能性もあるとしています。
開発者にとっては、使っているモデルや学習データの出どころを考えるきっかけになります。自社でデータのラベル付けを外注する場合は、委託先がどこで、どんな条件で作業しているかを確かめることも、品質管理の一部になります。作業者が疲れ切っていれば、ラベルの質も下がるからです。
まとめ
ブラウン大学の学生が、AIを支えるデータ作業者の地図を公開しました。ラベル付け会社13社、顧客141社、31か国を結び、見えにくいAIのサプライチェーンを可視化しています。網羅的ではないものの、AIの裏にある人の労働を考える出発点になりそうです。
参考リンク
- Brown student maps the hidden global labor powering AI（Brown University）
- Data worker map（AI Materiality Map）
- Data Work Landscape
- Center for Technological Responsibility, Reimagination and Redesign（Brown University）
アイキャッチ画像: Photo by Bruno Martins on Unsplash
