人工知能の3つの大きな弱点

あらゆるテクノロジーには限界があり、AI と人工知能も例外ではありません。その制限は、検出、電力消費、人的資源の 3 つです。

[[238533]]

最近のシスコの調査によると、CISO の 39% が自社がサイバーセキュリティの取り組みを推進するために自動化に依存していると回答し、さらに 34% が機械学習に依存していると回答し、32% が人工知能 (AI) に大きく依存していると回答しました。 CISO が AI に対して非常に楽観的であることは、非常に驚​​くべきことです。結局のところ、悪意のある動作を特定すること以外に、ネットワーク セキュリティにおける AI の適用シナリオはそれほど多くないようです。

正直に言うと、AI はサイバーセキュリティに間違いなく有益です。マルウェアはインフルエンザのように変異し続けるため、AI を使用せずに適切な対応戦略を開発することはほぼ不可能になります。銀行やクレジットカード会社などの金融機関も、適切にトレーニングされた AI を使用して SIEM システムを大幅に強化し、不正行為の検出と防止の機能を向上させることができます。しかし、AI は、どれほど誇大宣伝されても万能薬ではありません。実際のところ、他のテクノロジーと同様に、AI にも限界があります。

1. 一度騙せば皆が騙される: AIは他のAIを騙すために使える

これは大きな問題です。セキュリティ担当者が AI を使用して脅威の検出を最適化している一方で、攻撃者も AI を使用して検出を回避する方法を模索しています。企業は AI を使用して攻撃をより正確に検出し、攻撃者は AI を使用して検出を回避するよりスマートで進化したマルウェアを開発します。基本的に、マルウェアは AI を使用して AI 検出を回避します。マルウェアが同社の AI 検出を通過すると、アラームをトリガーすることなく、同社のネットワーク内で簡単に横方向に移動できるようになります。同社の AI は、マルウェアのさまざまな検出動作を統計エラーとして除外します。マルウェアが検出される頃には、セキュリティ防御はすでに突破されており、被害が発生している可能性があります。

2. 消費電力の問題: 低電力デバイスではAIをサポートできない可能性がある

モノのインターネット (IoT) デバイスは通常、低電力でデータ量も少ないです。攻撃者がこのレベルでマルウェアを展開することに成功した場合、AI は基本的に役に立たなくなります。 AI が機能するには、大量のメモリ、計算能力、ビッグデータが必要です。 IoT デバイスは通常これらの条件を満たしていないため、AI からの応答を受信する前にデータをクラウドに送信して処理する必要があります。その時はもう遅すぎた。それは、自動車事故が起こると、車載AIが自動的に警察に通報し、車両の位置を報告しますが、事故がすでに起こってしまったという事実は変えられないようなものです。車両が自動的に警察に通報する方が、通行人が警察に通報するのを待つよりも早いかもしれませんが、それでも衝突を防ぐことはできません。 AI は、最良の場合、デバイスが故障する前に何かがおかしいことを検出したり、最悪の場合でも IoT インフラストラクチャ全体が失われるのを防いだりすることができます。

3. 既知の未知: AIは知らないことを分析できない

AI は厳密に制御されたネットワークではうまく機能しますが、現実の世界は多彩で制御不能です。 AI には、シャドー IT、BYOD プロジェクト、SaaS システム、従業員という 4 つの大きな問題点があります。どれだけのビッグデータを AI に取り込んでも、これら 4 つの問題点を同時に解決する必要がありますが、これは非常に困難な作業であり、ほぼ不可能です。安全でない WiFi ネットワーク経由で個人のラップトップで会社の Gmail を開く従業員は常に存在し、AI がそれを知る機会さえないまま機密データが失われることになります。結局のところ、企業独自のアプリは AI によって保護され、ユーザーによる誤用を防ぐことができますが、検出すらできないデバイスの使用からエンドユーザーを保護することはできません。また、スマートフォンアプリだけ提供し、企業アクセス制御もなければ、リアルタイムログを備えたクラウドシステムも提供していない場合、どうやってAIを導入できるでしょうか。これでは、企業が機械学習をうまく活用する方法はありません。

AIは役立ちますが、ゲームチェンジャーにはなりません。 AI は、制御されたシステム内のマルウェアや攻撃者を検出するために使用できますが、企業システムにマルウェアが展開されるのを防ぐことは困難であり、すべてのエンドポイント デバイスとシステムを AI が制御していることを保証しない限り役に立ちません。サイバー攻撃と防御の戦いは続いていますが、防御側と攻撃側は以前とは異なる武器を使用しており、防御は適切に展開され管理されて初めて効果を発揮します。

AI をサイバーセキュリティの救世主として期待するよりも、制御の欠如、監視の欠如、潜在的な脅威の理解不足といった、より基本的な古い問題に焦点を当てたほうがよいでしょう。ユーザーとユーザーが使用するデバイスを理解し、ユーザーがこれらのデバイスを何に使用するかを把握し、使用するシステムが AI によって効果的に保護されていることを確認して初めて、AI の導入とトレーニングを開始できます。

[この記事は51CTOコラムニスト「李少鵬」によるオリジナル記事です。転載する場合はAnquannui（WeChat公開アカウントID：gooann-sectv）を通じて許可を得てください]

この著者の他の記事を読むにはここをクリックしてください