未来はここにあります。人工知能がもたらすリスクをどう軽減できるでしょうか?

この新しい時代に成功するには、企業のセキュリティは AI がもたらすリスクを軽減し、AI がもたらす機会を最大限に活用する必要があります。

[[281931]]

人工知能 (AI) は情報セキュリティの新たな領域を開拓しています。学習し、推論し、自律的に行​​動できるシステムは、ますます人間の行動を模倣するようになるでしょう。人間と同じように、彼らにも欠点はありますが、偉大な業績を成し遂げる能力もあります。

AI は新たな情報リスクを生み出し、既存のリスクをさらに危険なものにします。しかし、それは良いことにも使えるので、あらゆる組織の防御兵器の重要な部分となるはずです。ビジネスおよび情報セキュリティのリーダーは、日常業務に不可欠となるテクノロジーを採用する前に、リスクと機会を理解する必要があります。

人工知能はすでに多くの主流のビジネスユースケースに導入されています。組織は、顧客サービス、人事、銀行詐欺検出などの分野でプロセスをサポートするためにさまざまな AI を使用しています。しかし、このような誇大宣伝は、AI が実際に何であるか、そして AI がビジネスやセキュリティに実際に何を意味するかについて、混乱や懐疑心を引き起こす可能性があります。希望的観測と現実を切り離すのは難しい。

人工知能がもたらす情報リスクとは何でしょうか?

組織が AI システムを導入するにつれて、日常の業務運営において AI システムの重要性がますます高まります。一部の組織では、AI テクノロジーに完全に依存したビジネス モデルをすでに導入しているか、導入する予定です。組織がどの AI 機能を使用しているかに関係なく、そのようなシステムと AI をサポートする情報は本質的に脆弱であり、予期しない敵対的なリスクにさらされます。侵害された AI システムは誤った判断を下し、予期しない結果を生み出します。

同時に、組織は、前例のないスピードと規模で情報を侵害し、ビジネスに重大な影響を及ぼす可能性のある高度な AI ベースの攻撃に直面し始めています。情報リスクを軽減するには、内部の AI システムを保護し、外部の AI 脅威から防御するための措置を講じることが重要です。

組織が導入した AI システムは魅力的なターゲットとなる一方で、敵対的な攻撃者も AI を自らの攻撃に利用し始めています。 AI は、攻撃手法を強化したり、まったく新しい攻撃手法を作成したりするために使用できる強力なツールです。組織は、AI ベースのサイバー攻撃の規模と高度さに合わせて防御を適応させる準備を整える必要があります。

AIが提供する防御の機会

セキュリティ担当者は常に攻撃者が使用する手法に追いつくのに苦労していますが、AI システムはさまざまな防御メカニズムを大幅に強化することで、少なくとも短期的な能力向上を実現できます。 AI は多数のタスクを自動化できるため、人員不足のセキュリティ部門が専門スキルのギャップを埋め、実務者の効率を向上させるのに役立ちます。

既存の脅威から身を守るために、AI は防御側を常に一歩先へ導くことができます。しかし、敵は立ち止まってはいません。AI を利用した脅威はより高度化しており、セキュリティ担当者はそれに追いつくために AI を利用した防御策を使用する必要があります。

脅威への対応に関して AI が持つ利点は、人間の監視を必要とせずに自律的に行​​動し、人間よりもはるかに速いスピードで適切な行動をとれることです。マルウェアの存在により、ほぼ瞬時にシステム全体が危険にさらされる可能性があることを考慮すると、これは非常に貴重な機能です。

AI が防御機構を大幅に強化できる多くの方法は楽観的な理由を提供しますが、他の新しいテクノロジーと同様に、AI は万能薬ではありません。セキュリティ担当者は、防御 AI の導入に伴う実際的な課題を認識する必要があります。

防御 AI システムを導入する前に対処する必要がある質問と考慮事項は、範囲が狭く、1 つのミッションを達成するように設計されています。このタスクを完了するには十分なデータと入力が必要です。単一の防御 AI システムでは、前述の防御メカニズムのすべてを強化することはできません。組織では複数のシステムを採用する場合があります。防御 AI システムを購入して導入する前に、セキュリティ リーダーは、問題を解決するために AI システムが必要かどうか、またはより従来的なオプションで同様の目的またはより優れた目的を達成できるかどうかを検討する必要があります。

質問すべき内容は次のとおりです。

• 問題には制約がありますか? (たとえば、1 つのデータセットまたは 1 種類の入力で対処できますか、それとも、通常は人間の方が得意とする高度なコンテキストの理解が必要ですか?)
• 組織には AI システムを実行および最適化するために必要なデータがありますか?

セキュリティ リーダーは、次のような防御 AI に関するガバナンスの問題も考慮する必要があります。

• 防御 AI システムは、組織のセキュリティ ガバナンス アーキテクチャにどのように適合するのでしょうか?
• 組織は AI システムから防御するためのセキュリティをどのように提供できるでしょうか?
• 防御 AI システムはどのように保守、バックアップ、テスト、パッチ適用すればよいでしょうか?
• 組織には防御 AI システムを監視できる十分な熟練した人員がいますか?

AI は、技術的な専門知識とリスクに対する直感的な理解力を備えた熟練したセキュリティ担当者の必要性を置き換えるものではありません。これらのセキュリティ担当者は、人間による監視の必要性と、AI 対応の制御が効果的かつ自律的に機能することへの信頼との間でバランスを取る必要があります。 AI が信頼できないことが判明したり、不適切な決定や予期しない決定を下したりするという話が次々と出てきているため、その信頼を築くには時間がかかります。

AI システムには間違いが起こりますが、人間による監視の利点の 1 つは、問題が発生した場合に実務者がフィードバックを提供し、それを AI の意思決定プロセスに組み込むことができることです。もちろん、人間は間違いを犯します。防御 AI を導入する組織は、セキュリティ担当者がインテリジェント システムの使用方法を学習できるように、時間、トレーニング、サポートを投資する必要があります。

共に成長し、学習する時間を与えられれば、人間と AI の組み合わせは組織のサイバー防御の貴重な要素になるはずです。

今すぐ準備を始めてください

学習し、推論し、自律的に行​​動できるコンピュータ システムは、リスクと機会に満ちた新しいテクノロジー時代の到来を告げています。これまでに起こった進歩は氷山の一角に過ぎず、将来的にはさらなる進歩が起こるでしょう。ビッグデータへのアクセスが増加し、コンピューティング能力が向上し、プログラミング技術が継続的に向上するにつれて、AI システムが「考える」ことができる速度と規模は増加します。この種の強さと力は、ビジネスを成功させるか失敗させるかの可能性を秘めています。

防御に使用できる同じ AI ツールとテクニックは、犯罪者、ハクティビスト、政府支援グループなどの悪意のある行為者に対しても使用できます。これらの敵は、AI を使用してインテリジェントなマルウェアなどのまったく新しい脅威を作成する方法をすぐに見つけるでしょう。従来の制御を使用しているセキュリティ担当者は、攻撃の速度、量、および高度化に対応できなくなります。

新しい時代に成功するには、組織は AI がもたらすリスクを軽減し、AI がもたらす機会を最大限に活用する必要があります。これは、独自のスマート システムを保護し、独自のスマート防御を展開することを意味します。人工知能はもはや遠い未来のビジョンではありません。今こそ準備を始める時です。