Facebook、黒人男性を霊長類と認識したアルゴリズムについて謝罪

[[422559]]

ビッグデータ概要

著者: ミッキー

6月27日に英国のデイリーメール紙が公開した動画がフェイスブックで突然人気を集めたが、注目された理由は動画自体ではなく、動画に付けられた「ラベル」にある。これは黒人に関する動画だが、動画を視聴するすべてのユーザーに「霊長類に関する動画の視聴を続けるか」を尋ねるプロンプトが表示される。

元フェイスブックのコンテンツデザインマネージャー、ダーシー・グローブス氏がこの発見をツイッターに投稿したところ、たちまち激しい怒りが巻き起こった。

その後、Facebookはすぐにこの推奨を削除し、公に謝罪した。

「これは明らかに許されないミスであり、私たちはこの問題が起きたと認識した直後にトピック推奨機能全体を無効にし、原因を調査して再発防止を図った」とフェイスブックの広報担当者ダニ・レバー氏はUSAトゥデイへの声明で述べた。

「よく言われるように、AIは改良されてきたが、まだ完璧ではなく、改善の余地が大いにあることはわかっている」と彼女は語った。 「この不快なコンテンツを閲覧した方々にお詫び申し上げます。」

討論: 人間は霊長類ではないのか?

しかし、事件後、関係コミュニティの一部の人々からは、あまり敏感になる必要はない、結局のところ、人間は霊長類の一種であり、AIの判断に問題はない、という意見が出ました。

コミュニティ内では、黒人プログラマーの中には、あまり敏感になりすぎないようにと言う者もいた。「黒人の肌の色は、特定の非人間霊長類の画像と視覚的に似ているという点については、私も個人的には認めます。この問題がプログラマーの偏見ではなく、複雑なコンピューター ビジョンの問題である理由も理解できます。コンピューターが類似点を見つけるのは簡単ですが、ニューラル ネットワークをトレーニングして、画像が互いに似ているのに関連性がない理由を理解するのは非常に困難です。」

反対派は、AIは学習したデータのみをフィードバックし、そのようなラベル付けの結果はFacebookの全体的なラベル付けシステムの大きな問題を反映していると考えている。Facebook自身によると、同社の人工知能はユーザーがアップロードした画像を使用してトレーニングされているという。

結局のところ、Facebook の AI システムがこのような「人種差別」問題を抱えたのは今回が初めてではない。 ”

人種差別に苦しむテクノロジー企業はフェイスブックだけではない

近年、Facebook は自社のアルゴリズムにおける「人種差別の排除」の問題で多大な代償を払っており、そのプロセスはかなり困難なものとなっている。同社は2018年に、住宅や雇用などの業界で広告を出す際に広告主が特定の少数派グループを排除することを許可していたとして、スキャンダルで暴露された。 Facebook 社はまた、当時の関連問題を回避するために「技術的」という用語を使用していました。たとえば、同社はユーザーを人種ではなく、いわゆる「多文化主義」によって分類していました。

そのため、Facebook は人種問題に対して常に慎重な姿勢を取り、そのために多大な努力を払ってきました。昨年7月、The Vergeは、Facebookが同社の主要ソーシャルネットワークとInstagramにおける人種的偏見、特に人工知能を使って訓練されたアルゴリズムが黒人、ヒスパニック、その他の少数民族に悪影響を及ぼしているかどうかを調査する新しい社内チームを結成していると報じた。フェイスブックの広報担当者は当時、ザ・ヴァージに対し、このチームは「我々が行うすべてのことにおいて、公正かつ公平な製品開発が行われるようにする責任を負っている」と語った。 「当社は今後もFacebookのResponsible AIチームと緊密に連携し、それぞれのプラットフォームにおける潜在的な偏見に注力していきます。」

しかし、現状の結果から判断すると、Facebook が誇るこの是正措置の影響は非常に限定的である。

もちろん、自動化システムにおける人種差別的偏見で非難を浴びているテクノロジー企業はFacebookだけではない。

2015年、グーグルは自社のアプリが黒人を誤って「ゴリラ」と認識したことについて謝罪した。しかし、2年後、一部のメディアは、Googleの解決策が非常に単純かつ粗雑であることを発見しました。検索結果から関連するラベルを直接削除したのです。つまり、写真にゴリラ、チンパンジー、サルなどのラベルを付けることが禁止されたのです。

[[422560]]

「1 人を逃がすよりも、誤って 1,000 人を殺してしまうことを好む」という Google のアプローチは残酷かもしれませんが、それはまた、一見単純な画像分類機能にまだ比較的大きな問題があることをある程度示しています。真の人工知能を実現するには、まだ長い道のりが残っています。

[この記事は51CTOコラムBig Data Digest、WeChatパブリックアカウント「Big Data Digest（id: BigDataDigest）」のオリジナル翻訳です]

この著者の他の記事を読むにはここをクリックしてください