人工知能は偏見を排除するのに役立ちますか?

「私たちは物事をあるがままに見ているのではなく、私たちが見ているように見ているのです。」彼女は、私たちの脳に伴う残念な偏見を非常に簡潔に説明しています。

ビジネスの文脈では、親和性バイアス、確証バイアス、帰属バイアス、ハロー効果など、これらの推論エラーのうちよく知られているものは、ほんの表面をなぞっているにすぎません。彼らは集団として、違反行為や間違いの痕跡を残します。

もちろん、最も有害な人間の偏見は、年齢、人種、性別、宗教、または外見に基づいて、他の人間に対して偏見を持つものです。私たち自身、職場環境、そして社会からこうした歪みを排除しようと努力しているにもかかわらず、こうした歪みは私たちの思考や行動、さらには人工知能などの最新技術にまで浸透し続けています。

批評家はAIが偏見を悪化させていると主張

AI が採用、ローン承認、保険料モデル化、顔認識、法執行、その他多数のアプリケーションに初めて導入されて以来、批評家たちは (十分な理由をもって) このテクノロジーの偏見の傾向を指摘してきました。

たとえば、Google の新しい言語モデル BERT (Bidirectional Encoder Representations from Transformers) は、開発者が独自の AI を構築するために使用できる主要な自然言語処理 (NLP) モデルです。 BERT はもともと、Wikipedia のテキストを主なソースとして使用して構築されました。これに何か問題があるのでしょうか? Wikipedia の寄稿者は圧倒的にヨーロッパと北米の白人男性です。したがって、言語ベースの AI の最も重要な情報源の 1 つは、その始まりにおける偏った視点です。

同様の問題は、AI 開発のもう一つの重要な分野であるコンピューター ビジョンでも見られます。顔認識データセットには数十万の注釈付き顔が含まれており、サイバーセキュリティ、法執行、さらには顧客サービス向けの顔認識アプリケーションの開発に不可欠です。しかし、開発者（おそらくほとんどが白人の中年男性）は、自分たちのような人々にとって、知らないうちに精度の向上に努めていることが判明しました。女性、子供、高齢者、有色人種の誤り率は、中年の白人男性よりもはるかに高かった。その結果、IBM、アマゾン、マイクロソフトは、こうした偏見が容疑者の誤認につながる可能性があるとの懸念から、2020年に法執行機関への顔認識技術の販売を停止せざるを得なくなった。

さらに詳しく知るには、重要な、そして時にはぞっとするようなドキュメンタリー『Coded Bias』をご覧ください。

AI が実際に偏見の解決策の一部になるとしたらどうなるでしょうか?

しかし、AI バイアスの現象をより深く理解すると、AI は、すでに存在しているが無視されたり誤解されたりしている暗黙のバイアスを単に明らかにし、増幅しているだけであることが示唆されます。 AI自体は、肌の色、性別、年齢、その他の偏見の影響を受けません。人間を悩ませる論理的誤謬や認知バイアスの影響を受けません。 AI に偏りが見られる唯一の理由は、人間がヒューリスティックエラーや偏ったデータを使って AI をトレーニングすることがあるからです。

偏見が発見されて以来、すべての大手テクノロジー企業はデータセットを改善し、偏見を排除するために取り組んできました。 AI のバイアスを取り除く 1 つの方法は、AI を使用することです。それが難しいと思われる場合は、引き続き調査してみましょう。

AIを活用して採用における偏見を排除

典型的な例は就職機会に見られます。女性や有色人種は、最も切望される雇用機会において、十分に代表されていないことで有名です。この現象は、新入社員が上級管理職になり、採用の責任を負うようになると、継続的に発生します。所属バイアスは「私のような人」が引き続き雇用されることを保証し、帰属バイアスは過去の従業員の業績に基づいてこれらの選択を正当化します。

しかし、人工知能が採用においてより大きな役割を果たすようになると、状況は変わるかもしれない。 Textio、Gender Decoder、Ongig などのツールは、AI を使用して性別やその他の特性に関する隠れた偏見を精査します。 Knockri、Ceridian、Gapjumpers は AI を使用して、性別、国籍、肌の色、年齢などの識別特徴を削除または無視し、採用担当者が求職者の資格と経験のみに集中できるようにします。これらのソリューションの中には、候補者のソフトスキルを客観的に評価したり、電話での候補者の声を変えて性別を隠したりすることで、面接プロセスにおける新しさバイアス、親近感バイアス、性別バイアスを軽減するものもあります。

AI を活用してベンチャーキャピタルの意思決定から偏見を排除する

ベンチャーキャピタルの世界でも同様のアプローチがとれるかもしれません。ベンチャーキャピタルの世界では、パートナーの80％を男性が占め、女性は新興企業の40％の創業者であるにもかかわらず、投資額のわずか2.2％しか受け取っていません。たとえば、英国のスタートアップ アクセラレータである Founders Factory は、起業家としての成功の識別可能な特性に基づいてプログラムの候補者を選別するソフトウェアを作成しました。同様に、女性が運営する非営利団体である F4capital は、リスクに関する意思決定プロセスにおける偏見を排除するために、スタートアップの成熟度、機会、リスクを評価する「スタートアップ向け FICO スコア」を開発しました。このアプローチは、倫理的であるという理由だけでなく、AI の助けを借りずに行われた投資よりも 184% 高い収益をもたらすという理由からも、広く​​採用されるべきです。

医療における人工知能の認知バイアスの軽減

AI は医療分野でよりよい意思決定を行うのにも役立ちます。たとえば、医療診断会社 Flow Health は、医師が患者を診断する際によく使用する認知バイアスを AI で克服しようと取り組んでいます。たとえば、「利用可能性ヒューリスティック」は、医師が一般的だが時には間違った診断を下すように促しますが、「アンカリングヒューリスティック」は、新しい情報が矛盾している場合でも、誤った最初の診断に固執するように促します。急速に進化するデータ駆動型の個別化医療の世界において、AI は不可欠な要素になると信じています。

AIが一般的な偏見を軽減できるその他の分野

AI は、ビジネス上の判断を曇らせることが多い、それほど有害ではないものの依然として非常に強力な偏見を軽減するのにも役立ちます。英語で出版された情報に対する（英語圏の）偏見、知識や経験が豊富にもかかわらずスタートアップ企業で年配者に対する偏見、製造業で新しくてより良い可能性のあるアプローチを試すよりも同じサプライヤーや方法に固執する傾向などについて考えてみましょう。厳しい経済状況では、サプライチェーンの幹部やウォール街の投資家が感情に基づいて短期的な決定を下すことを忘れないでください。

これらすべての分野で AI を活用することで、意思決定における認識されていない偏見を効果的にチェックすることができます。

AIはAIの偏見を減らすためにも使える

間違いを犯すのが人間の本性であるならば、AI は隠れた偏見によるコストのかかる非倫理的な結果を回避するために必要な解決策となるかもしれません。しかし、こうしたバイアスが AI 自体に干渉する仕組みについてはどうでしょうか。AI が偏ったデータを誤読し、偏った人間のヒューリスティックを増幅した場合、AI はどのようにして有用なソリューションとなり得るのでしょうか。

現在では、AI に潜む暗黙の人間やデータの偏見を除去するように設計されたツールが存在します。 Google の People and AI Research チーム (PAIR) が開発した What-If ツールを使用すると、開発者は幅広い「公平性指標」ライブラリを使用して AI のパフォーマンスを調査できます。一方、PWC の Bias Analyzer ツール、IBM Research の AI Fairness 360 ツール、O'Reilly の LIME ツールはそれぞれ、AI コードにバイアスが存在するかどうかを特定するのに役立ちます。

組織内の偏見を減らすために AI を活用する方法を検討している上級管理職や取締役であれば、AI を問題を完全に解決する万能薬としてではなく、有望な新しい武器として捉えることをお勧めします。全体的かつ実用的な観点から、ベースラインのバイアス削減を確立し、隠れたバイアスを特定して回避できるように従業員をトレーニングし、顧客、サプライヤー、コンサルタントからの外部フィードバックを収集する必要があります。偏見のあるレビューは良いアイデアであるだけでなく、場合によっては法律でもあります。