2023 年 3 月 24 日 Manu Santamaría Delgado 著

2022 年 11 月下旬に登場した一般公開の生成型 AI「ChatGPT」により、サイバー脅威がさらに深刻で複雑なものへと変化する可能性について、懸念が持ち上がっています。実際、OpenAI 社がリリースを発表してまもなく、多くのセキュリティ専門家が、攻撃者はこの AI チャットボットを利用してマルウェア作成、フィッシング攻撃の増強を行うようになるのは時間の問題だとの予測を提出しています。

というのも、すでに、GPT-3 AI 言語モデルをベースにしたこのツールを利用し、マルウェアを複製してさまざまな種類の攻撃を仕掛けている攻撃者がいることが判明しているからです。サイバー犯罪者は、同社の Web サイトで無料作成できる OpenAI のアカウントを作成し、クエリを送信するだけで、さまざまなことを実現できます。

ChatGPT を利用したサイバー犯罪の想定

攻撃者は ChatGPT の生成型人工知能を活用して、以下のような悪意あるアクティビティを行う可能性があります。

– フィッシング：

ChatGPT の大規模言語モデル（LLM）を使用すれば、従来の単一なフォーマットから離れ、各ターゲットに合わせた、自然な口調で文法も正しく書かれた独自のフィッシングメール、またなりすましメールの作成を、自動化することができます。このため、メールによる攻撃の説得力が増し、受信者が悪意のあるリンクに気づいてクリックを避けることが難しくなります。

– 個人情報保護

フィッシングだけでなく、ChatGPT は、銀行や企業などの口調や内容を再現できるため、信頼できる機関になりすまし、SNS、SMS、電子メールでそのようなメッセージを送信した上で、個人情報や金融情報を取得できる可能性があります。また攻撃者はこの機能を悪用することで、有名人を装ったSNS投稿を行うことも可能です。

– その他のソーシャルエンジニアリング攻撃

ソーシャルエンジニアリング攻撃の危険性もあります。Chat GPT を使用してSNS上に非常にリアルな偽のプロフィールを作成し、悪意のあるリンクをクリックさせたり、個人情報を共有するように説得してくる可能性があります。

– 悪意のあるボットの作成

ChatGPT は、他のチャットにフィードできる API を備えているため、チャットボットの作成にも利用することができます。有益な利用を想定して設計されたユーザーフレンドリーなインターフェースであるがゆえに、逆にユーザを騙したり、説得力のある詐欺を実行したり、スパムの拡散やフィッシング攻撃に利用することが可能です。

– マルウェア作成

ChatGPT は、各種プログラミング言語でコードを生成するという、通常は高度なプログラミングスキルを必要とするタスクの実行を代行してくれます。そのため、技術的なスキルが低い、あるいはコーディングのスキルがない攻撃者でもマルウェアを開発することができるようになります。ChatGPT は、望みのマルウェアがどのような機能を持つべきかを教えるだけで、そのコードを書き出してくれます。

また、洗練されたサイバー犯罪者であれば、この技術を利用して、脅威をより効果的にしたり、既存の抜け穴を塞いだりすることも可能です。ある犯罪者がフォーラムで共有したケースでは、ChatGPT が悪用されて、Python ベースのコードを使用したマルウェアが作成され、感染したシステムから Office 文書、PDF、画像など 12 種類の一般的なファイルタイプを検索、コピー、流出させることができました。そのマルウェアは、目的のファイルを見つけると、ファイルを一時ディレクトリにコピーし、圧縮して Web 上に送信していました。また同マルウェアの作者は、ChatGPT を使って Java コードを書き、PuTTY SSH および telnet クライアントをダウンロードし、PowerShell を介してシステム上で密かに実行した方法も紹介しています。

高度な脅威に対抗するには、高度なソリューションが必要

高度なサイバー脅威には、それに対応するソリューションが必要です。WatchGuard EPDR は、エンドポイントプロテクション（EPP）と検知・レスポンス（EDR）機能を 1 つのソリューションに統合しています。機械学習と深層学習の新しい AI モデルにより、WatchGuard EPDR は、高度な脅威、高度な持続的標的型脅威（APT）、ゼロデイマルウェア、ランサムウェア、フィッシング、ルートキット、メモリの脆弱性およびマルウェアフリー攻撃から保護し、さらにエンドポイントとサーバを完全に可視化して従来のほとんどのウイルス対策ソリューションを回避してくる悪意のあるアクティビティを監視、および検出します。

また、すべてのアプリケーションを継続的に監視しているため、たとえ正規のアプリケーションから発信されたものであっても、悪意のある挙動を検出することが可能です。さらに、自動レスポンスをオーケストレーションし、その結果、高度な攻撃指標（IoA）を通じて、各攻撃の試みを徹底的に調査するために必要なフォレンジック情報を提供することが可能です。

ChatGPT のようなツールの革新性は世界にとってプラスになり、現在のパラダイムを変えることができますが、間違った人間の手に渡ると深刻な被害をもたらす可能性もあります。適切なサイバーセキュリティソリューションを導入することで、このような有望なツールが、悪意ある行為者によって悪用され、組織に悪影響を及ぼすことを防げます。

ChatGPT とその悪用による、潜在的なサイバーセキュリティリスクについてさらに詳しく知りたい方は、ウォッチガードの脅威ラボチームが提供する以下の 2 つのポッドキャスト（英語）をお聴きください。
What is CVSS?
https://www.secplicity.org/2023/02/07/what-is-cvss/

The RCE Vulnerability That Wasn’t
https://www.secplicity.org/2023/01/17/the-rce-vulnerability-that-wasnt/