生成AIはC2にも悪用されていますか？
- コンステラ
- 2月18日
- 読了時間: 1分
A. はい、C2用途での悪用が確認されています。
これまでにも、生成AIを使った攻撃ツールの作成や、動的にマルウェアを生成する取り組みが見られました。
新たな方向として、生成AIをC2プロキシとして利用する手法が示されています。
攻撃では外部との通信経路が重要で、侵入後の操作やデータのやり取りはC2通信によって行われます。
匿名でWeb経由の利用が可能な生成AIでは、アカウント停止などの対処が取りにくい状況があります。
シナリオでは、侵入後のマルウェアがWebインターフェースを通じてAIとやり取りします。AIは受け取った指示に基づき、攻撃者が管理するURLへHTTP(S)通信を行い、その結果をマルウェアへ返します。その結果、生成AIがC2の中継役として機能する形になります。
状況に応じた対応を検討させたり、自律的な動きを組み込んだりできる可能性も示されています。