危険信号：Google AIはマスクを着用した女性を口をテープで塞いでいる女性と認識

FuninUSA によれば、Microsoft、Google、IBM のビジョン システムが現実世界に追いつくまでにはまだやるべきことがたくさんあるとのことです。この研究から得られた知見のいくつかは確かに不安を覚えるものである。

マーケティング会社ワンダーマン・トンプソンのデータグループが実施したこの調査では、有名な視覚AIがPPEマスクを着用した男性と女性を同じように見ているかどうかを調べた。

研究者らは、品質や場所を変えながら男女それぞれの画像を256枚撮影し、Google Cloud Vision、Microsoft Azure Cognitive Services Computer Vision、IBMのWatson Visionといった大手テクノロジー企業によってトレーニングされた共通モデルを使用した。

結果は少々ぞっとするものでした。

マスクの識別に特に優れたシステムはありませんでしたが、男性のマスク着用者を識別する可能性は女性のマスク着用者より2倍高かったです。性別による認識のこの顕著な違いは驚くべきものです。

では、これらの女性たちは何を着ていると考えているのでしょうか? Google AI は、女性の写真の 28% の口がテープで閉じられていると考えています。 8%のケースでは、AIは人物がひげが生えているように見える女性だと認識しました。

IBM の Watson はさらに一歩進んでいます。 23％のケースでは、女性と特定された人物が猿ぐつわのテープを巻いていた。さらに23％のケースでは、その人物は足かせや鎖につながれた女性であると判明した。

Microsoft の Azur コンピューター ビジョンでは、より正確なコーディングも必要になる場合があります。調査によると、40%が女性が身につけるファッションアクセサリー、14%が女性がつける口紅だと考えていることが分かりました。

このような結果を見ると、多くの人は AI のアイデアがどこから来るのか疑問に思うかもしれません。簡単な答えは「男性」かもしれません。

しかし研究者たちは、女性が暴力の被害者になったり沈黙させられたりしているインターネットの「暗い一角」で、機械がインスピレーションを求めていると考えている。 ”

これが真実であるとは想像しがたいが、私たちが AI の森の中でますます簡単に迷子になるにつれて、悲惨な結果を招く可能性がある。

研究者らは、AIを悪者にしようとしているわけではないと述べている。 (AI はこれを自ら行うのがかなり得意です。)

その代わりに、ワンダーマン・トンプソンのデータサイエンス責任者であるイリンカ・バーサン氏は次のように指摘している。「機械に社会を正確かつ責任を持って反映する仕事をさせたいのであれば、私たちが暮らす社会の力学を機械が理解できるようにし、自動化によって既存の不平等が強化されるのを防ぎ、機械が「良いこと」のために働くようにする必要があります。」

それでも、IBMが顔認識事業から撤退することについてどう思うかと研究者に尋ねたところ、彼らはこう答えた。「私たちの研究は顔認識ではなく視覚ラベル認識に焦点を当てていますが、（確かに一般的な）AIモデルがマスクを着用している人とブロックまたは拘束されている人を簡単に混同できるのであれば、乱用、プライバシー侵害、トレーニングの偏りに非常に脆弱な事業から撤退することはIBMにとって正しい（そして賢明な）行動であるように思われます。」

人間は、機械が重要な要素を理解するのを支援するという点において、まだ十分な成果を上げていません。たとえば、人間自身。これは、機械にはこの本能がないためであり、また人間が自分自身を理解するのが難しいためでもあります。

人工知能が実験で人類世界の深層潜在意識を発見した可能性は疑いようがない。つまり、人類社会における女性の役割は、ある種の暗い奴隷意識に包まれているということだ。もちろん、普通の人がウェブを閲覧しているときにこの潜在意識を感知することはできないが、人工知能がオンラインの世界を横断するとき、ほとんどのネットワークの深層に隠された意識を感じ取り、それを洗練し、学習することができる。現時点で実験がどの段階に達しているかは明らかではないが、人工知能の認知研究開発の分野では、アメリカの企業が世界をリードしていることは明らかである。

人工知能がこれを認識した後、現在のリスクはどれほどの闇を広げることになるのでしょうか？