顔認識技術の倫理

顔認識技術がさまざまな分野で持つ大きな可能性は、ほとんど想像できないほどです。ただし、最も洗練されたアプリケーションを実装する前に、その機能に共通する特定のバグと倫理的な考慮事項に対処する必要があります。

正確な顔認識システムは、生体認証を使用して写真やビデオから顔の特徴をマッピングします。この情報を既知の顔のデータベースと比較して一致するものを見つけます。顔認識は個人の身元確認に役立ちますが、プライバシーの問題も生じます。

数十年前には、顔認識が将来私たちの生活にほぼ欠かせないものになるとは予想できませんでした。スマートフォンのロック解除からオンライン（またはオフライン）取引の実行まで、このテクノロジーは私たちの日常生活に深く浸透しています。これは、人工知能のコンピューター ビジョンと機械学習コンポーネントの驚くべき応用です。

顔認識システムは次のように動作します。

訓練されたアルゴリズムは、目の間のピクセル数や唇の曲率など、人の顔のさまざまな固有の詳細を判別し、それらを他の詳細とともに論理的に解釈して、システム内で顔を再構築します。これらの再現された顔は、システムのデータベースに保存されている大量の顔のコレクションと比較されます。アルゴリズムが、再現された顔がデータベース内に存在する顔と数学的に一致することを検出すると、システムはそれを「認識」し、ユーザーのタスクを実行します。

今日の顔認識システムは、プロセス全体をナノ秒単位で完了するだけでなく、照明が暗い場所や画像の解像度や視野角が悪い場合でも機能します。

他の AI テクノロジーと同様に、顔認識システムはさまざまな目的で使用される際に、いくつかの倫理原則に従う必要があります。これらの規制には以下が含まれます。

1. 顔認識における公平性

まず、顔認識装置は、人種、性別、顔の特徴、奇形、その他の要因に基づく個人またはグループに対する偏見を完全に防止するか、少なくとも最小限に抑えるシステムとして開発されなければなりません。顔認識システムの運用が 100% 公正であるはずがないことを示す十分な証拠が今や存在している。その結果、このテクノロジーをサポートするシステムを構築する企業は、システム内で見つかった偏見の痕跡をすべて取り除くために何百時間も費やすことになります。

Microsoft のような有名な組織は通常、できるだけ多くの民族コミュニティから有能な専門家を採用します。顔認識システムの研究、開発、テスト、設計の各段階で、多様性により、AI データ モデルをトレーニングするための大規模なデータセットを作成することができました。大規模なデータセットはバイアス指数を低下させますが、多様性も象徴的なものになります。世界中から個人を選択することで、現実世界の多様性を反映することができます。

顔認識システムにおける偏見を排除するために、組織は特別な努力をする必要があります。これを実現するには、機械学習とラベリングに使用するデータセットが多様である必要があります。最も重要なのは、公平な顔認識システムは、偏見なく世界中のどこでもシームレスに機能するため、出力品質が非常に高くなることです。

顔認識システムの公平性を確保するために、開発者はベータテスト段階でエンドユーザーを関与させることもできます。このようなシステムを実際のシナリオでテストする機能があれば、その機能の品質は向上するだけです。

2. AIの内部構造の公開

職場やサイバーセキュリティ システムで顔認識システムを使用する組織は、機械学習情報がどこに保存されているかについての詳細をすべて把握する必要があります。このような組織は、日常業務にテクノロジーを導入する前に、その限界と機能を理解する必要があります。 AI テクノロジーを提供する企業は、これらの詳細について顧客に対して完全に透明性を保つ必要があります。さらに、サービスプロバイダーは、顧客の都合に合わせて、どこからでも顔認識システムを利用できるようにする必要があります。システムの更新は、クライアントからの有効な承認を得て行う必要があります。

3. ステークホルダーに対する責任

前述のように、顔認識システムは複数の部門に導入されています。このようなシステムを作成した組織は、特にその技術が個人またはグループに直接影響を与える可能性がある場合（法執行機関、監視）には、そのシステムに対して責任を負わなければなりません。このようなシステムにおける説明責任とは、システムによって引き起こされる可能性のある身体的または健康上の危害、金銭的不正流用、その他の問題を防ぐためのユースケースを含めることを意味します。プロセスに制御の要素を導入するには、組織内のシステムに対して有資格者が責任を持ち、慎重かつ論理的な意思決定を行う必要があります。さらに、顔認識システムを日常業務に取り入れている組織は、その技術に対する顧客の不満に直ちに対処する必要があります。

4. モニタリング前の同意と通知

通常の状況では、顔認識システムは、個人またはグループの同意なしに、個人、グループ、またはその他の行動をスパイするために使用されることはありません。欧州連合 (EU) などの特定の機関には、権限のない組織が統治機関の管轄区域内の個人を監視することを防ぐための標準化された一連の法律 (GDPR) があります。このようなシステムを導入する組織は、米国のすべてのデータ保護およびプライバシー法に準拠する必要があります。

5. 人権侵害を回避するための法的監視

国家安全保障やその他のやむを得ない事情に関連する目的で、国家政府または決定的な規制機関から許可されない限り、組織は顔認識システムを使用して個人またはグループを監視することはできません。基本的に、この技術は被害者の人権や自由を侵害するために使用されることは固く禁じられています。

顔認識システムは例外なくこれらの規制に準拠するようにプログラムされていますが、操作上の誤りにより問題が発生する可能性があります。このテクノロジーに関連する主な問題は次のとおりです。

6. 購入時の検証エラー

前述のように、デジタル決済アプリケーションには顔認識システムが組み込まれており、ユーザーはこのテクノロジーを通じて取引を検証できます。この技術により、顔認証の盗難やデビットカード詐欺などの支払い関連の犯罪が可能になります。顔認識システムはユーザーにとって大きな利便性を提供するため、顧客は顔認識システムを選択します。しかし、このようなシステムでは、一卵性双生児が互いの銀行口座から不正な支払いを行うために自分のお金を使うと、間違いが発生する可能性があります。顔認識システムにはセキュリティプロトコルが導入されているにもかかわらず、顔の複製によって資金が不正に流用される可能性があるという懸念がある。

7. 執行申請における不正確さ

顔認識システムは、公的な犯罪者が逮捕される前に特定するために使用されます。この技術は概念としては間違いなく法執行機関にとって有用だが、その動作には明らかな問題がある。犯罪者はこの技術をさまざまな方法で悪用する可能性があります。たとえば、偏った AI の概念では、システムが有色人種を区別できない場合があり、法執行機関に不正確な結果が提供されます。通常、このようなシステムは白人男性の画像を含むデータセットを使用してトレーニングされます。したがって、他の人種の人々を識別する場合、このシステムは誤った方法で機能します。

高度な顔認識システムを使用して民間人を違法に監視したとして、組織や公的機関が告発される事例がいくつかある。常時監視されている個人によって収集されたビデオデータは、さまざまな違法な目的に使用される可能性があります。顔認識システムの最大の欠点の 1 つは、提供される出力があまりにも一般的すぎることです。たとえば、ある人物が重罪を犯した疑いがある場合、その人の写真が撮影され、数人の犯罪者の写真と一緒に照合されて、その人物に犯罪歴があるかどうかがチェックされます。しかし、これらのデータを積み重ねると、顔認識データベースに、その男性の写真が、ベテランの重罪犯の写真と一緒に保存されることになります。したがって、個人が比較的無実であるにもかかわらず、その人のプライバシーが侵害されたことになります。第二に、その人がどう見ても無実であるにもかかわらず、悪い人だと見なされる場合があります。

前述のように、顔認識技術に関連する主な問題とエラーは、技術の進歩の欠如、データセットの多様性の欠如、組織によるシステムの非効率的な処理に起因しています。しかし、人工知能の応用範囲と現実世界のニーズへの応用は無制限であるはずです。顔認識技術に伴うリスクは、通常、技術が実際に必要とされるものと異なる動作をするときに発生します。

しかし、将来的には技術が継続的に進歩し、技術関連の問題が解決されることが予想されます。 AI アルゴリズムの偏りに関連する問題は、最終的には解消されるでしょう。ただし、このテクノロジーが倫理規範に違反することなく完全に機能するためには、組織はそのようなシステムに対して厳格なレベルのガバナンスを維持する必要があります。ガバナンスが強化されれば、将来的には顔認識システムのエラーに対処できるようになるかもしれません。したがって、積極的な解決策を実現するには、このようなシステムの研究、開発、設計を改善する必要があります。