人工知能が人の感情を認識できるなんてすごいですね。信じられません。

人工知能が人の感情を認識できるなんてすごいですね。信じられません。

感情認識技術は、実際には人工知能を使用して顔の表情から感情を検出する新興技術であり、数十億ドル規模の産業でもあります。しかし、この技術の背後にある科学は議論の余地があり、システムには「偏り」が存在します。

[[394027]]

食品からゲームまでさまざまな業界の企業が、ERT を使用して自社製品に対するユーザーの反応をテストしています。もちろん、職場での人々の感情の識別、秩序維持のための空港のセキュリティや国境管理、生徒の宿題の監督など、他のシナリオでも使用できます。それについて考えるのはいいことだ。

しかし、顔認識技術はプライバシーや差別などの問題から世間の注目を集めています。最近Netflixで公開された受賞映画「Coded Bias」は、多くの顔認識技術が肌の色が濃い顔を正確に検出できないという発見を記録している。視覚物体認識ソフトウェアの研究に使用される大規模な視覚データベースであるImageNetを管理するチームも、最近、プライバシーの懸念に応じて150万枚の画像にぼかしを入れなければならなかった。

[[394028]]

顔認識技術に「アルゴリズムの偏り」と差別的なデータベースが存在することが明らかになり、マイクロソフト、アマゾン、IBMなどの大手テクノロジー企業がそのような技術の販売を中止した。英国の警察におけるこの技術の使用も法的責任を問われている。欧州連合では、40以上の民間団体の連合が顔認識技術の使用禁止を求めている。

他の形式の顔認識と同様に、ERT は偏見、プライバシー、大規模な規制に関する疑問を提起します。しかし、ERT のもう 1 つの問題は、その基盤となる感情科学が議論の的となっていることです。ほとんどの ERT システムは、「基本感情」の理論に基づいています。この理論では、感情は生まれつきのものであり、世界中の人々が同じように感情を表現するとされています。

しかし、その理論は徐々に崩れ始めました。人類学的研究によると、人々は文化や社会によって感情を異なる​​方法で表現するそうです。 2019年に心理科学協会が行った「基本感情」理論の証拠の検討では、人の感情は表情から簡単に推測できるという広く信じられている考えには科学的根拠がないという結論が出されました。つまり、ERT には確固とした科学的理論的根拠がないのです。

さらに、ERT には人種差別的なコードが含まれています。進行中の研究では、人の表情に関係なく、システムは黒人の顔を白人の顔よりも怒っていると認識することが判明している。

人工知能研究者のデボラ・ラジ氏は、MITテクノロジーレビューのインタビューで、「この技術が人々に『危害を加える』方法は2つある。1つはシステムが機能せず、有色人種の識別におけるエラー率が高く、人々を大きな危険にさらす場合。もう1つは、システムが機能し、システムがすでに非常に成熟している場合、人々の生活に嫌がらせをするツールとして簡単に使用される可能性がある場合だ」と語った。

したがって、顔認識技術が偏見を排除でき、非常に正確であったとしても、公平で公正ではない可能性があります。顔認識技術が差別的な警察や司法制度で使われた場合に何が起こるかなど、多くの不協和音が見られるようになるでしょう。また、不協和音の世界で効果的に機能すると、危険になることもあります。

顔認識技術がもたらす課題に対する明確な答えはまだありません。 ERT の問題を解決するには、抽象的な理論から実際の実践に移る必要があります。私たちは、システム内の物議を醸す感情科学理論を集合的に検証し、潜在的な人種的偏見を分析する必要があります。また、ERT がすべての人の内なる感情を正確に読み取ることができるとしても、私たちは自分の生活の中でこれほど綿密に監視されたいのだろうかと自問する必要があります。これらは、慎重な検討、エネルギー、行動を必要とする質問です。

<<:  ICLR 2021 調査ではゲームスキル パッケージについて調査?順序付けられた記憶決定ネットワークは、次のことを達成するのを助けます

>>:  スタートアップがAIを活用してデータ駆動型マーケティング戦略を開発する方法

ブログ    

推薦する

AIと機械学習の統合アーキテクチャ:インテリジェントな意思決定を可能にする

人工知能 (AI) と機械学習の台頭により、あらゆる業界に大きな変化が起きています。データ量が増加し...

人工知能が道路の穴を素早く修復するのを助ける

再び道路の穴の季節がやってきました。アメリカ全土の道路が乗用車やトラックに復讐する、冬から春にかけて...

...

Pytorch モデルのトレーニングを最適化するためのヒント

この記事では、ディープラーニング モデルのトレーニングを改善するために私が個人的に見つけた 4 つの...

WOTカンファレンスは11月に深センで開催されます!テクノロジー界の「トップグループチャット」をお見逃しなく

数日前に話題になった「中国ビッグモデル「トップストリームグループチャット」ノート」を見た人は多いはず...

マッキンゼーのパートナー:中国は医療AIでリードしているが、将来的には5つの重要な課題がある

[[235958]] 「医師はAIに取って代わられるか?」という質問に対し、鼎祥源の創業者李天天氏は...

インテリジェントな世界は加速していますが、真の人工知能 (AI) から私たちはどれくらい離れているのでしょうか?

人工知能は新しい概念でもなければ、単なる仕掛けでもありません。何十年も前から提案されてきました。真の...

GPT-3 の推論高速化は NVIDIA のソリューションを 50% 上回ります。大規模モデル推論システムEnergon-AIオープンソース

この記事はAI新メディアQuantum Bit(公開アカウントID:QbitAI)より許可を得て転載...

...

...

AIは信頼の危機にどう対処するか

今後 10 年間で AI が改善する必要がある領域が 1 つあります。それは透明性です。しかし、人工...

Cloud Pak for Data 3.0は、企業のコスト削減と効率性の向上を支援し、AI導入を加速します。

[[335519]]感染症流行後も実体経済は厳しい状況が続いている。生産停止、収益の急激な減少、資...

Python データ分析の基礎: 外れ値の検出と処理

機械学習において、異常検出と処理は比較的小さな分野、または機械学習の副産物です。一般的な予測問題では...

強化学習 AI は 1 対 5 の戦いに役立ちますか? MITの新研究:AIは人間にとって最高のチームメイトではない

[[433351]]強化学習AIは囲碁、スタークラフト、王者栄耀などのゲームで絶対的な優位性を持って...

スマート製造における AI: イノベーションと効率の推進

AI 技術の継続的な革新と発展により、人工知能 (AI) は多くの分野で大きな進歩を遂げており、その...