Facebook は顔認識を中止することで本当にリスクを回避しているのでしょうか?人種差別は致命的である

名前にちなんでFacebookとしても知られるMateは、顔認識システムを無効化し、10億人以上の個人の顔認識データを削除すると発表した。 Facebookユーザーの3分の1以上が顔認識設定を使用していると報告されています。

[[433421]]

フェイスブックの人工知能担当副社長ジェローム・ペセンティ氏は、「顔認識技術については依然として多くの懸念があり、規制当局も顔認識技術の使用を制限するための詳細な規則を策定している。不確実性が続く中、顔認識の使用を狭い範囲に限定することが最も適切だと考えている」と述べた。

[[433422]]

本当にそうなのでしょうか? これが理由の一部です。

2020年、Facebookはユーザーが起こした集団訴訟を解決するために6億5000万ドルを支払った。これらのユーザーは、Facebook が許可なく顔データを作成し、保存していると主張している。

2019年、サンフランシスコは政府による顔認識技術の使用を禁止した最初の都市となった。ミシシッピ州、オレゴン州、ボストンなどの州も関連する禁止令を出した。

上記の2つの理由により、Facebookは顔認識技術の使用を中止しなければなりませんでした。では、他に何か理由があるのでしょうか?

ポリシーや法律に違反し、集団訴訟に直面することは企業の経費を増やすだけですが、海外では企業や技術が人種差別の疑いをかけられると致命的になりかねません。

[[433423]]

中国では、顔認識の精度は98％以上と非常に高いです。これは、中国人が単一民族であり、認識がそれほど難しくないからです。西洋諸国では、有色人種の存在により、顔認識の精度は一般的に90％程度です。

90% の精度は許容範囲に思えるかもしれませんが、普遍的ではありません。さまざまなグループ間でエラー率に大きな差があり、18 ～ 30 歳の黒人女性の精度が最も低いことが、ますます多くの研究で明らかになっています。

アメリカ国立標準技術研究所がかつて実施した調査では、189 種類の顔認識アルゴリズムのうち、有色人種の女性に対する精度が最も低く、肌の色が薄い男性に対する精度が最も高かったことがわかった。

研究だけでなく実際の結果からも、顔認識技術にはそのような問題があることがわかっています。

2018年、ACLUは「Rekognition」と呼ばれる顔認識ツールをテストしたが、このソフトウェアは28人の議員を何らかの理由で逮捕された犯罪容疑者と誤って識別した。

有色人種がかなりの割合を占めていることに気づくのは難しくなく、白人男性でさえも誤認されている...

5月25日に米国で発生した警察による暴力的な取り締まり事件では、アフリカ系アメリカ人のジョージ・フロイドさんが白人警察官によって残忍に殺害され、差別的な法執行が深刻に受け止められた。黒人は白人よりも軽犯罪で逮捕される可能性が高い。

[[433424]]

有色人種の顔認識率が低すぎると、人種差別的な警察官がこの技術を利用してより多くの黒人を逮捕する可能性が高くなります。

中国では、顔認識技術は人種の違いを考慮する必要はありません。しかし、海外では状況が異なります。初期の標準トレーニングデータベースは主に白人男性で、デフォルトのカメラは通常、肌の色が濃い人を捉えるように最適化されておらず、その結果、米国の黒人データベースの画質は低くなりました。

フェイスブックが顔認識の使用をやめる決定も、当然ながらこの考慮に基づいている。顔認識技術の精度を向上させるにはさらなる投資が必要であり、同時に集団訴訟や政策リスクの増加にも直面することになるが、これは報われない仕事である。