18カ国が支持するAI安全ガイドラインが発表

英国の国立サイバーセキュリティセンター（NCSC）は、AIシステムの開発者やプロバイダーが「期待通りに動作し、必要なときに利用でき、機密データを権限のない第三者に漏らすことなく機能するAIシステムを構築する」のに役立つ新しいガイダンスを公開しました。

サイバーセキュリティをAIシステムの中心に据える方法

安全な AI システムの開発ガイドでは、ML アプリケーション開発ライフサイクルの 4 つの主要なフェーズについて説明します。

設計段階からのセキュリティは、システム所有者、開発者、ユーザーなどすべての関係者が AI システムが直面する固有のセキュリティ リスクを認識し、その回避方法を学ぶことに依存します。

「システムに対する脅威をモデル化し、安全性、機能性、パフォーマンスの観点からシステムを設計する」とガイドラインには記されています。さらに、開発者は AI モデルを選択する際にセキュリティ上の利点とトレードオフを考慮する必要があります (複雑な方が必ずしも良いとは限りません)。

安全な開発は、サプライ チェーンのセキュリティの確保、資産 (モデル、データ、ヒント、ソフトウェア、ログなど) の保護、モデル、データ セット、メタ ヒントまたはシステム ヒントの文書化、技術的負債の管理を前提としています。

安全な展開には、安全なインフラストラクチャ (システム ライフサイクルのあらゆる部分) と、直接および間接アクセスからのスキーマとデータの継続的な保護が必要です。 (避けられない) セキュリティ インシデントに備えるには、包括的なインシデント対応、エスカレーション、修復計画を整備する必要があります。

AI は責任を持ってリリースされるべきであり、つまり、その安全性が徹底的に評価された後（そしてユーザーが制限や潜在的な障害モードを評価した後）にのみリリースされるべきです。

理想的には、最も安全な設定が唯一のオプションとしてシステムに統合されます。設定が必要な場合、デフォルトのオプションは一般的な脅威に対して一般的に安全である必要があります (つまり、デフォルトで安全)。システムが悪意のある方法で使用または展開されるのを防ぐために制御を適用します。

最後に、安全な運用と保守を確保するために、オペレーターはシステムの動作と入力を監視し、デフォルトで自動更新をオンにし、特に障害（脆弱性など）が発生した場合に透明性と応答性を維持することが求められます。

AIサイバーセキュリティガイドは誰を対象にしていますか？

このガイドラインは、米国サイバーセキュリティ・インフラストラクチャセキュリティ庁（CISA）や世界中の同様の機関、CERT、そして業界の専門家の協力を得て起草されました。

「英国が主導するこの新しいガイドラインは世界で初めて合意されたもので、AIを使用するあらゆるシステムの開発者が、そのシステムがゼロから作られる場合でも、他者が提供するツールやサービス上に構築される場合でも、開発プロセスのあらゆる段階で情報に基づいたサイバーセキュリティの決定を下すのに役立つだろう」と英国国立サイバーセキュリティセンターは指摘した。

「[ガイドライン]は、組織がホストするモデルに基づくか、外部のアプリケーション プログラミング インターフェイスを使用するかにかかわらず、AI システムのプロバイダーを主な対象としています。ただし、データ サイエンティスト、開発者、管理者、政策立案者、リスク所有者を含むすべての関係者に、機械学習 AI システムの設計、展開、運用について十分な情報に基づいた意思決定を行うために、これらのガイドラインを読むことをお勧めします。」

このガイドラインは、詐欺、プライバシーの脅威、差別、その他の不正行為を含むAIシステムの潜在的リスクから米国民を保護するための措置を開始することを目的としたジョー・バイデン米大統領の大統領令に従ったものである。