HSBC、コロナウイルス危機中にAIガードレールを導入

規制の厳しい業界の企業は、AI を導入しようとすると、いわゆる「ブラック ボックス」問題に直面することがよくあります。これは、AI テクノロジーによってタスクが自動化され、簡単に説明できない出力が生成されることが多いためです。

特に銀行は、機械学習（ML）モデルと人工知能ソフトウェアの透明性と説明可能性を精査する取り組みを行っています。これらのソフトウェアは、不正行為の検出から資産追跡に至るまでさまざまな情報を提供します。 HSBCも例外ではないが、この英国の銀行はアルゴリズムへの信頼を徐々に構築するためにソフトウェアを使用している。これらのアルゴリズムは、バイアス、データドリフト、およびビジネスにリスクをもたらす可能性のあるその他の問題を起こしやすい傾向があります。

[[333168]]

HSBCの最高情報責任者、ギャビン・マンロー氏は、新型コロナウイルスのパンデミックのさなか、より多くの消費者がデジタルサービスを採用する中、HSBCの取り組みは顧客からの信頼を高める上で極めて重要になると述べた。

「我々が何を使用しているかを説明するために、提示されるモデルとAIの間にはバランスが必要であり、また、我々が必要とする適切な品質、血統、最も正確なデータを備えている必要がある」とマンロー氏は記者団に語った。 「信頼関係のない環境では仕事ができないと思います。」

銀行がAIに躊躇する理由

銀行は、AIが自動化、事業の拡大、顧客資産の保護に役立つことを理解しているが、規制当局、監査委員会、消費者にアルゴリズムの仕組みを説明できない場合は、その技術を採用しないだろう。誤情報の拡散を助長するアルゴリズムや顔認識における人種的偏見により、AIに対する不信感が広がっている。

金融サービス企業は、規制当局の厳しい監視の下、偏見によって適格者が融資を受けられない可能性があるため、事業の基盤として利用するテクノロジーについて慎重になる傾向がある。その結果、ガートナーの調査によると、2019年にAIを使用していると報告した最高会計責任者はわずか4％でした。同社はまた、経営幹部の79%が金融業界がAI導入に消極的なのは「未知への恐怖」のせいだと考えていることも明らかにした。 AI を導入する場合でも、デジタル製品やサービスの促進剤としてではなく、不正な取引に対する防御手段として導入されることが多いです。

マンロー氏は、金融分野でAIを導入する鍵は信頼であると述べた。彼は、AIへの信頼を構築することの重要性を、自動車にシートベルトやスピードメーターなどの安全機能を追加することに例えた。 「組織をコントロールしなければ、多くの固有のリスクを抱えることになる」とマンロー氏は付け加えた。 「データ モデルにバイアスが内在することを許容することはできません。」

パンデミックの間、消費者はより多くのデジタルサービスの利用を目指すため、信頼の構築は特に重要になります。 HSBCでは、WhatsAppやWeChatなどのソーシャルメディアサービス、タップ決済、その他の非接触型技術を介した取引が増加している。マンロー氏は、銀行のデジタルフットプリントを通じて資金が流れ始めると、より多くの詐欺が発覚するため、こうしたサービスの使用は厳重に監視する必要があると述べた。マンロー氏はさらに、これらは典型的なクレジットカード詐欺から、COVID-19検査の偽造取引を伴う便乗詐欺まで多岐にわたると付け加えた。

AIのためのガードレールの導入

HSBC が AI モデルを検証し、提供するデジタル サービスを支えられるよう、Munroe は CognitiveScale のソフトウェアを使用しています。同社の Cortex Certifiai ソフトウェアは、ビジネス リスクの軽減に重点を置いています。 CognitiveScaleのエグゼクティブチェアマンであるManoj Saxena氏は、Cortex Certifiaiは企業が機械生成の予測を説明し、基礎となるデータタイプ、データセット、MLモデル、AI開発プロセスの偏りを明らかにするのに役立つと述べ、このソリューションを信頼できるAIのためのハイパーテキスト転送プロトコルとして機能できるAI測定ツールであると説明しました。

2007年から2014年までIBM Watsonソリューションを率いてきたサクセナ氏は、このソフトウェアは「データドリフト」、つまりMLモデルに情報を提供するデータ信号が時間の経過とともに変化するかどうかを特定するのにも役立つと述べた。 COVID-19の発生以来、顧客の購買パターンがオンラインに移行し、トイレットペーパーから個人用防護具まであらゆる商品の購入が急増し、小売業者はサプライチェーンの課題に立ち向かわざるを得なくなったため、データドリフトは重大な問題となっている。これらの変化するダイナミクスにより、モデルに組み込む必要がある新しいデータが生成されます。

銀行は、現在の AI モデルが新しい消費者パターンによって生成されたデータを考慮に入れようと急いでいるため、ここでは不利な立場にあります。例えば、パンデミックによるロックダウン前に一度もオンラインショッピングをしたことがなかった人が突然アマゾンで買い物をするようになった場合、銀行の不正検出システムに信号が送られるだろうとマンロー氏は述べた。

「モデルの中には、私たちがコロナ禍で生きている現実を反映していないものもある」とモンロー氏は語った。 「しかし、デジタルの導入が継続し、加速するにつれて、どのような規範が生まれるのでしょうか？」

Cortex Certifiai は、「信頼指数」を使用して AI モデルの数値スコアを定量化し、HSBC のデータ モデルがこれらの新しい動作を解釈するのに役立ちます。これは、顧客のニーズを満たすために重要です。 「重要な決定を機械に委ねる際に、顧客の忠誠心と信頼を築くことが重要だ」とサクセナ氏は言う。

CognitiveScale は、幅広いビジネス ケースにソフトウェアを適用しています。別の概念実証では、ある企業が Cortex Certifiai を使用して、顧客が対話型音声応答システムに電話をかけたときに適切なサポート連絡先に誘導していると Saxena 氏は述べた。

偏見との大戦い

このソリューションは銀行向けに特別に作られたようです。銀行は AI モデルを信頼できるかどうかについて依然として懐疑的であるものの、こうした新たなソリューションに大きく賭けている。

CognitiveScale は Norwest Venture Partners、Intel Capital、Microsoft Ventures、Westly Group、USAA などの投資家から 5,000 万ドルの資金を調達しているが、同社を取り巻く誇大宣伝は、同社がソフトウェア業界に付加価値をもたらすという絶好のタイミングを捉えているかどうかという懐疑論に追い抜かれているだけかもしれない。

AIの説明可能性を研究するガートナー社のアナリスト、サニエ・アレイベイ氏は、決定木や回帰アルゴリズムを使った予測モデル、特に何千ものif/then/else文を含むモデルは常に偏りがあると述べた。 「これらは新しい問題ではなく、ニューラルネットワークに特有のものでもない」とアレイベイ氏は言う。

AIへの信頼を植え付ける鍵は、ソフトウェア開発者が企業に提供する前に徹底したテストと検証を通じて高品質のAIモデルを提供できるようにすることだと彼女は述べた。アレイベイ氏は、ガードレールの適切な計画がすべての利害関係者のニーズを満たす鍵となると考えています。

これについてはHSBCも同意する。 「リスクとコンプライアンスを企業文化に組み込むことは、後から考えることではありません」とマンロー氏は言う。「管理と透明性も、設計とソリューションに組み込む必要があります。」