オランダのデータ保護当局(AP)は2026年8月21日、Uberに制裁金を科したと発表しました。金額は8億2500万ユーロで、日本円換算では1000億円規模にのぼります。米ドルでは約9億6600万ドルに相当します。2020年から2022年にかけて、Uberは自動化システムでドライバーのアカウントを十分な人間の確認なしに停止していました。APはこの対応を、GDPR(General Data Protection Regulation、EU一般データ保護規則)の禁止事項への違反と判断しました。GDPR史上、2023年のMetaへの制裁金に次ぐ2番目の高額処分です。
背景と文脈
UberとGDPRを巡る対立は、今回が初めてではありません。GDPR第22条は、人に重大な影響を及ぼす完全automatedな意思決定(人間が関与せずシステムだけで結論を出す仕組み)を原則禁止しています。企業には人間による有意な関与が義務付けられています。2021年3月、アムステルダム地方裁判所はUberとOlaのドライバーが起こした訴えで、契約解除の手続きは自動意思決定にあたらないと判断しました。ドライバー側は上訴し、2023年4月にアムステルダム控訴裁判所が判断を覆します。控訴審はUberが主張した「人間による確認」について、実質的には形式的な行為にすぎないとTechCrunchが報じました。配車の割り当てや料金計算、ドライバー評価、不正確率のスコアリング、アカウント停止まで、複数の自動処理がGDPR第22条の対象になると認定しています。この裁判を支援したのがWorker Info Exchangeと労働組合ADCUです。今回のAP制裁の発端は、フランスでの申し立てでした。人権団体Ligue des droits de l’Hommeが171人のドライバーを代理し、規制当局CNILに訴えを起こしています。Uberの欧州本社がオランダにあるため、APが調査を担当しました。プラットフォーム企業とギグワーカーの間では、対立が各国で続いています。争点はアルゴリズムによる人事・労務管理(AIが評価や配置、契約解除に相当する判断を担う仕組み)の透明性です。
技術/ビジネス面
APが問題視したのは、Uberの自動化システムがドライバーの契約解除に相当する処分を下していた実態です。2020年から2022年にかけて、不正の疑いがあるとシステムが判定したドライバーのアカウントを、人間の審査を経ずに一時停止していました。顧客評価が低いドライバーについては、システムが恒久的にアカウントを無効化するケースもあったとNL Timesが伝えています。APはこれをGDPRが禁じる完全な自動意思決定と認定しました。加えてドライバーへの説明が不十分だったとして、知らされる権利の侵害も認めています。Autoriteit Persoonsgegevensによれば、制裁金は824,990,000ユーロです。GDPR施行以来の制裁金では、2023年にアイルランドの規制当局がMetaに科した12億ユーロに次ぐ史上2番目の金額です。Metaのケースは欧州から米国へのデータ移転が争点でした。今回はアルゴリズムの意思決定プロセスそのものが問われた点で異なります。金額の規模も突出しています。Uberは2024年にも、フランスの規制当局からドライバーデータの域外移転を巡り2億9000万ユーロの制裁金を科された経緯があります。ただ今回の8億2500万ユーロは、それを大きく上回る水準です。Uberはこの決定を不服として控訴する方針を示しました。永久停止の処分は完全自動ではなく、実際には人間による有意な審査を経ていたと主張しています。
これからどうなるか
今回の処分は、AIやアルゴリズムで自動判断を下す企業全般への警告といえます。ギグワーカーに限らず、採用選考や与信審査、コンテンツモデレーションなど、人に重大な影響を与える自動判断は今後も規制当局の監視対象になります。Uberは控訴する方針です。最終判断が確定するまでには数年かかる可能性があります。控訴審の結果次第では、他のEU加盟国の規制当局も同様の調査に乗り出すとみられます。開発者にとっての教訓は明確です。自動化された意思決定を含むプロダクトを設計する際は、形だけの承認ボタンではなく、実質的に判断を覆せる人間のレビュー経路を組み込む必要があります。控訴審が指摘したように、名ばかりのレビュー担当者を置くだけでは規制違反のリスクを避けられません。判断の根拠を後から検証できるよう、ログや説明データを残す設計も重要になります。スコアリングのしきい値や停止基準をドキュメント化しておくことも欠かせません。
まとめ
オランダのデータ保護当局は、Uberの自動アカウント停止システムがGDPR違反にあたるとして8億2500万ユーロの制裁金を科しました。GDPR史上2番目の高額処分です。Uberは控訴する方針で、最終決着にはなお時間がかかりそうです。企業には自動判断への実質的な人間関与が今後さらに求められます。自動化システムを持つ全ての企業にとって、他人事ではないニュースといえます。
