人工知能が人の感情を認識できるなんてすごいですね。信じられません。

感情認識技術は、実際には人工知能を使用して顔の表情から感情を検出する新興技術であり、数十億ドル規模の産業でもあります。しかし、この技術の背後にある科学は議論の余地があり、システムには「偏り」が存在します。

食品からゲームまでさまざまな業界の企業が、ERT を使用して自社製品に対するユーザーの反応をテストしています。もちろん、職場での人々の感情の識別、秩序維持のための空港のセキュリティや国境管理、生徒の宿題の監督など、他のシナリオでも使用できます。それについて考えるのはいいことだ。

しかし、顔認識技術はプライバシーや差別などの問題から世間の注目を集めています。最近Netflixで公開された受賞映画「Coded Bias」は、多くの顔認識技術が肌の色が濃い顔を正確に検出できないという発見を記録している。視覚物体認識ソフトウェアの研究に使用される大規模な視覚データベースであるImageNetを管理するチームも、最近、プライバシーの懸念に応じて150万枚の画像にぼかしを入れなければならなかった。

顔認識技術に「アルゴリズムの偏り」と差別的なデータベースが存在することが明らかになり、マイクロソフト、アマゾン、IBMなどの大手テクノロジー企業がそのような技術の販売を中止した。英国の警察におけるこの技術の使用も法的責任を問われている。欧州連合では、40以上の民間団体の連合が顔認識技術の使用禁止を求めている。

他の形式の顔認識と同様に、ERT は偏見、プライバシー、大規模な規制に関する疑問を提起します。しかし、ERT のもう 1 つの問題は、その基盤となる感情科学が議論の的となっていることです。ほとんどの ERT システムは、「基本感情」の理論に基づいています。この理論では、感情は生まれつきのものであり、世界中の人々が同じように感情を表現するとされています。

しかし、その理論は徐々に崩れ始めました。人類学的研究によると、人々は文化や社会によって感情を異なる​​方法で表現するそうです。 2019年に心理科学協会が行った「基本感情」理論の証拠の検討では、人の感情は表情から簡単に推測できるという広く信じられている考えには科学的根拠がないという結論が出されました。つまり、ERT には確固とした科学的理論的根拠がないのです。

さらに、ERT には人種差別的なコードが含まれています。進行中の研究では、人の表情に関係なく、システムは黒人の顔を白人の顔よりも怒っていると認識することが判明している。

人工知能研究者のデボラ・ラジ氏は、MITテクノロジーレビューのインタビューで、「この技術が人々に『危害を加える』方法は2つある。1つはシステムが機能せず、有色人種の識別におけるエラー率が高く、人々を大きな危険にさらす場合。もう1つは、システムが機能し、システムがすでに非常に成熟している場合、人々の生活に嫌がらせをするツールとして簡単に使用される可能性がある場合だ」と語った。

したがって、顔認識技術が偏見を排除でき、非常に正確であったとしても、公平で公正ではない可能性があります。顔認識技術が差別的な警察や司法制度で使われた場合に何が起こるかなど、多くの不協和音が見られるようになるでしょう。また、不協和音の世界で効果的に機能すると、危険になることもあります。

顔認識技術がもたらす課題に対する明確な答えはまだありません。 ERT の問題を解決するには、抽象的な理論から実際の実践に移る必要があります。私たちは、システム内の物議を醸す感情科学理論を集合的に検証し、潜在的な人種的偏見を分析する必要があります。また、ERT がすべての人の内なる感情を正確に読み取ることができるとしても、私たちは自分の生活の中でこれほど綿密に監視されたいのだろうかと自問する必要があります。これらは、慎重な検討、エネルギー、行動を必要とする質問です。