2021/04/28

明らかに偏った中国の顔認識モデル

2021 年 4 月 28 日 Trevor Collins 著

Techdirt の記事によると、中国政府は明らかに偏った顔認識サービスによってウイグル人を特定し、標的にする「ウイグル警報」を作成しているとのことです。 国内のさまざまな人種を識別するという名目で行われていますが、使用されているモデルはウイグル人とチベット人の顔の特徴を特に識別しており、国内の他の 54 の少数民族は識別していないようです。ウォッチガードの研究によると、顔認識モデルは、特定のグループについて他のグループよりも特によく識別する傾向がありますが、中国はこの問題を無視しています。

中国で使用されているモデルは、外見に基づいてグループを振り分けます。ファーウェイは提供されたモデルを使ってこのシステムを構築した上、既存の監視システムに統合するようです。顔認識プログラムは、肌の色や顔の部位の距離を測定し、ウイグル人を識別する一連の数値とその数値を比較します。

詳しく言うと、顔認識の偏りは、これらの数字を照合する際の不正確さに起因しています。これは、訓練されたモデルが、特定のグループの顔に関するバリエーションについて考慮していない場合があるためです。あるグループに対してより多くのトレーニングを行って初めて、モデルはこれらのバリエーションについて考慮することができます。適切に設定されたモデルであればこの正確性のスコアもレポートされ、サンプルの少ないバリエーションのとき、スコアは低くなります。トレーニングにおけるバイアスに関しては、ウォッチガードの過去の研究を参照してください。

中国は同国北西部のウイグル人への迫害を続けています。「ウイグル警報」が追加されたことで、中国政府は地域外に出ようとするウイグル人を特定できるようになります。中国の広大な監視システムをもってすれば、政府の許可を得ていないウイグル人の旅行はほとんど不可能になるでしょう。

スパムメール対策機能強化のためのエンジン移行について(2021/4/1)