人工知能を導入する際にプライバシーを保護するための 3 つの重要なセキュリティ対策

AI 戦略を導入する前に、企業はプライバシーを保護し、セキュリティ標準への準拠を確保するために新しいテクノロジーの導入を検討する必要があります。

あなたのビジネスが次世代のデジタル製品エンジニアリングに携わっている場合、人工知能 (AI) を実験することで、新しいビジネス モデル、収益源、エクスペリエンスを構築できます。

しかし、企業は AI テクノロジーの革新に関するニュースに注意する必要があります。たとえば、AlphaFold は 50 年前のタンパク質折り畳み問題を解決しました。さらに大きな影響として、AI の進歩により、AI の責任が高まり、プライバシー重視の傾向が強まっています。

AI/ML に関連するデータ プライバシーは、特に GDPR、CCPA、HIPAA などの新しいプライバシー規制の発表に伴い、アルゴリズムがトレーニングと展開でますます大規模なデータセットを取り込んで使用するようになるにつれて、さらに重要になります。実際、米国食品医薬品局（FDA）は最近、医療機器における AI を規制するための新たな行動計画を発表しました。規制枠組みの拡大は、データプライバシーがこの 10 年間で最も重要な課題の 1 つである理由を部分的に説明しています。

組織が将来 AI への投資を計画する場合、次の 3 つの AI テクノロジーにより、将来にわたってコンプライアンスとセキュリティが確保されます。

1. フェデレーテッドラーニング

フェデレーテッド ラーニングは、特に医療などの機密性の高いユーザー データを扱う分野において、機械学習における最大のデータ プライバシー問題の 1 つに対処できる、ますます重要になっている機械学習トレーニング手法です。過去 10 年間の従来のアプローチは、データを可能な限り分離することでした。しかし、機械学習アルゴリズムのトレーニングと展開に必要な集約されたデータは、特に企業間でデータを共有する場合には、深刻なプライバシーとセキュリティの懸念を引き起こします。

フェデレーテッド ラーニングにより、企業は集約されたデータ セットから洞察を提供しながら、集約されていない環境でのデータのセキュリティを確保できます。基本的な前提は、ローカルの機械学習モデルがプライベート データセットでトレーニングされ、モデルの更新がデータセット間で流れ、中央集約されることです。重要なのは、データがローカル環境から出る必要がないことです。

このようにして、データは安全に保たれながら、組織に「群衆の知恵」がもたらされます。フェデレーテッド ラーニングでは、データが単一のリポジトリに保存されるのではなく、複数のリポジトリに分散されるため、単一の攻撃や漏洩のリスクが軽減されます。

2. 説明可能な人工知能（XAI）

多くの AI / 機械学習モデル (特にニューラル ネットワーク) はブラック ボックス モデルです。大量のデータでトレーニングされた後、これらのモデルは、特定の決定がどのように、なぜ行われたかを判断するのが困難であるため、多くの場合無責任になります。より説明責任と透明性を高めるには、より解釈しやすいものにする必要があります。

「説明可能性」と呼ばれる新しい研究分野では、洗練された技術を使用して、決定木などの単純なシステムだけでなく、ニューラル ネットワークなどの複雑なシステムにも透明性をもたらします。説明はシステムへの信頼を築くのに役立ち、研究者が間違いがなぜ起こったのか、どうすればそれを素早く修正できるのかを理解するのにも役立ちます。

医療、銀行、金融サービス、保険などの機密性の高い分野では、AI の決定を盲目的に信頼することはできません。たとえば、銀行融資を承認する場合、特に他の AI システムに人種的偏見が入り込んでいる例を考慮すると、なぜ申請が却下されたのかを理解する必要があります。 AI が複雑になるにつれて、これらのブラックボックス モデルを明確にすることがますます重要になり、説明可能な AI (XAI) は、将来 AI システムを開発する組織にとって主要な焦点となるはずです。

3. AIOps/MLOps

約 20 年前、DevOps はアプリケーションの開発、展開、管理の方法に革命をもたらしました。パイプラインを標準化することで、効率が大幅に向上し、納期が短縮されます。

現在、AIOps/MLOps は人工知能で同じことを行っています。 Cognilityca は、世界の MLOps 市場が 2025 年までに 40 億ドルに拡大すると予測しています。

操作を標準化し、パフォーマンスを測定し、問題を自動的に修復することで、機械学習モデルのライフサイクル全体を高速化するという考えです。 AIOps は次の 3 つのレイヤーに適用できます。

（１）インフラ層

ここでコンテナ化が役立ちます。自動化ツールを使用すると、組織は容量の需要に合わせてインフラストラクチャとチームを拡張できます。 DevOps の新しいサブセットは GitOps であり、これは特にコンテナー内で実行されるクラウドベースのマイクロサービスに DevOps の原則を適用します。

（２）アプリケーションパフォーマンス管理（APM）

IDC の調査によると、世界的なアプリケーションのダウンタイムにより、毎年 12 億 5,000 万ドルから 25 億ドルの損失が発生しています。アプリケーション パフォーマンス管理 (APM) は、アプリケーション管理を簡素化し、ダウンタイムを制限し、パフォーマンスを最大化することで組織を支援します。アプリケーション パフォーマンス管理 (APM) ソリューションには AIOps アプローチが組み込まれており、人工知能と機械学習を使用して、事後的なアプローチではなく、問題を積極的に特定します。

（３）ITサービスマネジメント（ITSM）

IT サービスは規模が非常に大きく、エンドユーザーが社内従業員、顧客、ビジネス パートナーのいずれであっても、IT 組織がエンド ユーザーに提供するほぼすべてのハードウェア、ソフトウェア、コンピューティング リソースを表すことができます。 ITSM は AIOps を使用して、チケット発行ワークフロー、インシデントの管理と分析、承認、ドキュメントの監視などの側面を自動化します。

ほとんどの組織は効率性向上のために AIOps/MLOps を実装していますが、多くの組織は、たとえばアプリケーション パフォーマンス管理 (APM) プラットフォームが豊富なデータ リソースを早期警告システムとして活用することで、セキュリティをさらに強化できることに気づいています。 AI/ML ライフサイクルがより厳密に最適化され、構造化されるにつれて、セキュリティとプライバシーのリスクを特定して軽減することが容易になります。

責任を持って実験する

過去数年間に多くの強力な AI の使用例が見られましたが、将来的には、これらの使用例の背後にある AI システムがデータを責任を持って使用できるようにすることが重要になります。より多くのプライバシー規制が公開され、組織が規制によって実際に透明性と顧客との信頼が向上することを認識するにつれて、責任ある AI を実験する時期が来ています。フェデレーテッド ラーニング、説明可能な AI、AIOps/MLOps の 3 つが、開始点として適しています。