複数の国家に支援されたサイバー脅威組織が、ChatGPTを使用したフィッシングメールを書き始めている。
マイクロソフトがOpenAIと共同で発表したレポートによると、ハッカーはサイバー攻撃戦略を改善するためにChatGPTのような大規模言語モデル(LLM)を使用している。
この調査によると、データ・チェリー・ピック、ファイル操作、マルチタスキングを通じて、多くの国家に支援されたハッキング組織が攻撃手法をアップグレードしている。
この報告は、先月マイクロソフトがロシアに支援されたハッキング・チームによって侵入され、上級幹部チームの電子メール・アカウントが侵害されたというニュースが流れた直後のことである。
## 報告書には何が書かれていましたか?
[マイクロソフトのレポートOpenAIは、生成AI技術を安全かつ責任を持って活用する方法を探ることを目的としている。
報告書では、一部の敵対勢力がAI能力を戦略や作戦手順に組み込んでいることを明らかにしている。
報告書は、ロシアの軍事諜報機関と関係があり、「極めて効果的な脅威行為者」とされるストロンチウム組織によるサイバー攻撃の例を挙げている。同研究では、AIの支援により、LLMを利用した検知とLLMで強化されたスクリプト技術を採用できたとしている。
簡単に言えば、LLMを利用した偵察とは、生成AIを利用して衛星通信プロトコルやレーダー画像ツールを学習し、潜在的な標的についてより深い理解と貴重な洞察を得ることを指す。
同様に、LLMで強化されたスクリプティング技術とは、攻撃中に特定のタスクを実行できるコード・スニペットを作成するためにAIモデルを使用することを指す。
このようなLLMの使用は、サイバー犯罪者が生成AIを使用してコードを記述し、アンチウイルスシステムを無効にしたり、データ侵害が異常なフラグを立てられるのを避けるためにディレクトリファイルを削除したりするという、より広範で憂慮すべき傾向を例証している。
## リスクのある産業
調査の中でいくつかの脅威組織が挙げられており、これらの組織の標的は、ストロンチウム、チャコール・タイフーン、サーモン・タイフーンなど、幅広い産業分野に及んでいる。標的は以下の通り:
- **ディフェンス
- 再生可能エネルギー
- 政府組織
- 非政府組織(NGO)
- 石油・ガス
- 科学技術
- 輸送・物流
サーモン・タイフーン(別名ナトリウム)が過去にアメリカの国防総省を攻撃したことが知られていることは注目に値する。
例えば、チャコール・タイフーン(別名クロミウム)は主に台湾、タイ、モンゴル、マレーシア、フランス、ネパールの組織を標的にしていた。
マイクロソフトの反撃
この報告書は、AI攻撃と戦うための最も簡単な答えは、AI技術を使って反撃することであることを示している。
> AIは攻撃者が攻撃を高度化させるのに役立ち、攻撃者はそれを実行するための十分なリソースを持っている。マイクロソフトは300以上の脅威組織を追跡しており、保護、検知、対応にもAI技術を活用している。" - マイクロソフト、一次検知アナリティクス担当マネージャー、ホマ・ハヤティファル氏
この戦略に従って、マイクロソフトは新しい[ ]を開発している。GPT-4 AIアシスタント、セキュリティ・コパイロット]は、サイバー脅威とセキュリティリスクをより迅速に検出し、それらが引き起こす潜在的な被害を回避するためにそれらを要約するように設計されている。このツールは、対応するセキュリティ対策の目標を定め、強化することができる。
先月、同社幹部の電子メール・アカウントが侵害され、Azureクラウド・サービスも侵害された。