生成型 AI 攻撃を出し抜く

Morphisec の Nir ​​Givol 氏が、高度な AI 主導の技術からシステムを防御する際の課題について説明し、次世代の敵を倒す方法についていくつかのヒントを提供します。

サイバーテック | 2023 年 1 月 8 日

写真：Imago 画像（ロイターコネクト経由）

ChatGPT、Copilot、Bard などの人工知能 (AI) ツールの高度化が進むにつれて、セキュリティ防御者にとっては大きなリスクとなり、AI 主導の攻撃手法を採用する攻撃者にとっては大きな見返りがもたらされます。

セキュリティの専門家として、新しい最新の B2B および B2C のハイパースケール、超高速、データ豊富なインターフェイスを採用しながら、レガシーを維持するために時間をかけて構築された複数のオペレーティング システム (OS) の多様なエコシステムを守る必要があります。 攻撃者を防御するために、最新かつ最高のセキュリティ製品を探し、それに依存しています。

しかし、高度な AI 主導の技術と対峙した場合、既存のセキュリティ製品や手法には重要な防御要素が 1 つ欠けています。それは、新しい適応性を生み出す機械学習を専門とする次世代の機械駆動型人工知能対応の敵を倒すことができるテクノロジーです。驚異的なスピードと規模でエクスプロイトします。

生成 AI システムに特有の最大の懸念事項と、検出および防止テクノロジーを侵害する能力について、明確なパターンが現れ始めています。

InfoSec 専門家は、Generative-AI が次の目的で悪用される可能性があることを懸念しています。

守備側の視点

機械学習 (ML) および深層学習 (DL) のサブセットを備えた人工知能 (AI) は、最新のエンドポイント保護プラットフォーム (EPP) およびエンドポイント検出および応答 (EDR) 製品に不可欠です。

これらのテクノロジーは、既知の悪意のある動作および無害な動作やコード パターンに関する膨大な量のデータから学習することによって機能します。 この学習により、これまで目に見えなかった脅威を予測および特定できるモデルを作成できるようになります。

具体的には、AI は次の目的で使用できます。

AI の使用は現在、デファクトスタンダードになりつつあり、インシデントのコンテキストを特定し、エンドポイントの動作を理解してアラートをブリーチし、以前に送信された豊富なテレメトリ データを使用して誤って分類された情報を遡及的に修正することで、誤検知を削減するのに役立ちます。

攻撃者の視点

AI が進化し、より高度になるにつれて、攻撃者はこれらのテクノロジーを利用して利益を得る新たな方法を見つけ、AI ベースのエンドポイント保護ソリューションをバイパスできる脅威の開発を加速するでしょう。

攻撃者が AI を利用してターゲットを侵害する方法には、次のようなものがあります。

攻撃者は、脆弱性スキャンの自動化、説得力のあるフィッシング メッセージの生成、AI ベースのセキュリティ システムの弱点の発見、新しいエクスプロイトの生成、パスワードの解読などに AI を積極的に使用すると予想されます。 AI と機械学習が進化するにつれて、組織はこれらの脅威から身を守るために常に警戒を怠らず、AI ベースの攻撃の最新の動向に追いつく必要があります。

AI ベースのシステムを使用する組織は、基盤となるデータセット、トレーニング セット、およびこの学習プロセスを実装するマシンの堅牢性とセキュリティに疑問を持ち、不正な武器化される可能性のある悪意のあるコードからシステムを保護する必要があります。 AI ベースのセキュリティ ソリューションのモデルに弱点が発見されたり組み込まれたりすると、その保護が世界的にバイパスされる可能性があります。

Morphisec はこれまで、国家攻撃者、組織犯罪グループ、高度なハッキング グループなど、高度なスキルと豊富なリソースを備えた攻撃者による高度な攻撃を観察してきました。 AI ベースのテクノロジーの進歩により、多態性の回避マルウェアの作成が自動化され、高度な脅威の作成に対する参入障壁が低くなります。

これは将来への懸念だけではありません。

今日のエンドポイント セキュリティ ソリューションをバイパスするために AI を活用する必要はありません。 EDR および EPP による検出を回避する戦術とテクニック、特にメモリ操作とファイルレス マルウェアについては十分に文書化されています。 Picus Security によると、回避技術とインメモリ技術は、実際に確認されているマルウェアで使用される上位の技術の 30% 以上を占めています。