人気の機械学習や人工知能が金融業界で障害にぶつかるのはなぜでしょうか?

[[211551]]

機械学習と人工知能は、過去数年間で精度において驚異的な進歩を遂げました。 しかし、銀行などの規制産業は依然として躊躇しており、アルゴリズム解釈の正確性や効率性よりも規制遵守を優先することが多い。 一部の企業は、この技術が信頼できない、あるいは危険であると考えている。

2008 年の金融危機の際、銀行業界は自社の機械学習アルゴリズムが誤った仮定に基づいていることに気づきました。 その結果、金融システム規制当局は追加の管理が必要であると判断し、銀行と保険会社に「モデルリスク」を管理するための規制要件を導入しました。

銀行は、自分たちが使用するモデルを理解していることも示す必要があったため、残念ではあるが当然のことながら、何よりも単純さと解釈可能性を優先する一般化線形モデルを使用して、意図的に手法の複雑さを制限しました。

機械学習への信頼を築きたいなら、機械学習を人間のように扱い、同じ質問をしてみてください。

AI と機械学習によって提供される推奨事項を信頼するには、あらゆる業界の企業がそれをより深く理解するよう努める必要があります。 データ サイエンティストや博士号取得者だけが機械学習モデルを明確に説明できるべきではありません。AI 理論家 Eliezer Yudkowsky 氏が言うように、「AI の最大の危険は、人々がテクノロジーを理解していると早まって思い込んでしまうことです。」

信頼には人間的なアプローチが必要

データ サイエンティストは、機械学習モデルがどのように決定を下すのかを尋ねられると、複雑な数式で答える傾向があり、一般の人は、そのモデルをどう信頼すればよいのか、唖然として混乱してしまいます。 機械学習の意思決定に人間の意思決定と同じ方法でアプローチする方が生産的ではないでしょうか? Udacity の共同創設者であるセバスチャン・スラン氏はかつてこう言っています。「AI はほぼ人文科学の分野です。AI は実際には人間の知性と認知を理解しようとする試みなのです。」

したがって、融資担当者がどのように決定を下すかを判断するために複雑な数式を使用するのではなく、「融資申請書のどの情報があなたの決定にとって最も重要なのか」または「どの値が高リスクまたは低リスクを示し、特定の融資申請を承認または拒否するかをどのように決定するのか」と単純に質問します。

同じ人間的なアプローチを使用して、アルゴリズムが同様の決定をどのように行うかを判断することができます。たとえば、特徴影響と呼ばれる機械学習技術を使用することで、回転ユーティリティ残高、申請者の収入、ローンの目的が、ローン担当者のアルゴリズムにとって最も重要な上位 3 つの情報であることが判明しました。

理由コードと呼ばれる機能を使用することで、各ローン申請者のプロファイルの推定における最も重要な要素を確認でき、部分依存性と呼ばれる手法を利用することで、アルゴリズムが高収入のローン申請を低リスクと評価していることがわかります。

客観性、拡張性、予測可能性の価値

人間は、機械が人間と同じように意思決定を行う方法を分析することで、AI と機械学習をより深く理解できます。さらに、人間は、次のようなテクノロジーの独自の機能を認識することで、AI と機械学習に対する信頼を獲得できます。

● 信頼性とデータの外れ値の問題の解決: 従来の統計モデルでは通常、データの作成方法、データの背後にあるプロセス、データの信頼性に関する仮定が必要になります。しかし、機械学習は、必要以上に信頼性を与えない非常に柔軟なアルゴリズムを使用することで、これらの制限的な仮定を排除します。

● 最新のコンピューターと大規模なデータセットのサポート: 手動プロセスとは異なり、機械学習では世界が直線で満たされているとは想定しません。代わりに、方程式を自動的に調整して最適なパターンを特定し、独立した検証データ（トレーニングに使用されたデータだけでなく）でどのアルゴリズムとパターンが最もよく機能するかをテストします。

● 欠損値を活用して将来を予測する: 何時間もかけてデータクリーニングを行う代わりに、高度な機械学習によって、特定のアルゴリズムに合わせてデータを最適化し、欠損値を自動的に検出し、欠損値でうまく機能しないアルゴリズムを特定し、欠損値を置き換える最適な値を見つけ、欠損値の存在を利用してさまざまな結果を予測するブループリントを構築できます。

AI や機械学習の提案を疑うのではなく、人間に尋ねるのと同じ推論の質問をすることで、それらをよりよく理解しましょう。データの異常性の信頼性を低減し、今日の膨大なデータにスケーラブルな柔軟性を提供するテクノロジーの客観的な能力を認識しましょう。

おそらく最も重要なのは、不足している情報を活用して将来の結果をより正確に予測できる AI と機械学習の力を認識することです。なぜなら、この技術は確かに警戒と正式な規制を必要とするほど強力である一方で、消費者と企業が同様に恩恵を受けるためには、適切なレベルの理解と信頼を確立する必要があるからです。

オリジナルリンク: https://www.informationweek.com/big-data/ai-machine-learning/how-can-we-trust-machine-learning-and-ai/a/d-id/1330424