サイバー攻撃および防御における生成AIの活用

サイバー攻撃および防御における生成AIの活用【セキュリティコラム第2弾 第5回】

生成AIの勢いが止まりません。対話型AIであるChatGPTを筆頭に、テキスト、画像、動画、音楽等あらゆるジャンルで利用が進んでいます。海外の調査会社によると、年間成長率は優に30%を超えるほどになる、という見込みも出ています。

生成AIの利用は当然、攻撃者にとっても関心の的。例えばChatGPTを活用することで、プログラムのバグ潰しに貢献してくれるため、品質が高まることは攻撃者にとっても有利に働きます。

ChatGPTをマルウェアに利用

また、本来であればマルウェアの作成などには応じませんが、「脱獄」という特別な言い回しを使うことによってマルウェア作成にも悪用されるような研究がなされていたり、そもそも正規に投げかけるメッセージであったとしても、質問の投げかけ方によっては簡単に品質の高い攻撃用プログラムが作成されてしまうこと。質問を分割することで攻撃用プログラムであるとは思わせない方法によって利用されたりと、さまざまに研究がなされています。

マルウェアや攻撃用プログラムの作成だけに止まりません。
ChatGPTを用いることによって、英語や中国語等の外国語を流暢な日本語に翻訳し、我々日本人が違和感を持たないような日本語文の作成ができるようになりました。
これを悪用すると、フィッシングのような単純なメール攻撃にも簡単に応用ができてしまいます。現に昨年 （2023年）のインターネットバンキングによる不正送金被害額は87億円に激増。これは、一昨年（2022年）に起こった被害額の5.7倍。過去最高額であった2015年の30.7億円を優に超えるものでした。

生成AIを利用したセキュリティ対策

例えば、ChatGPTに「ランサムウェア被害を防ぎたいです。何故ランサムウェア被害が起こるのか。その原因を5つ、解決策を20個挙げてください。」と質問を投げかけた際に返ってきた内容は、概ね正しい回答を導き出してくれます。

大量のデータを持つログ情報から、危険性のある特定情報を抽出する指示を出すことで（例えば、ログ情報を渡して、この中から特に大量に攻撃をしているであろう（Rejectとして弾かれている）IPアドレスを抽出してください、等と指示を出すなど）、危険である予兆を突き止め、対策を打つなどに応用することもできます。

フィッシングメールや、詐欺メール等でよく使われている内容とその対策を教えてもらうこともできます。そのような内容をサンプルとして、標的型訓練メールに応用したり、注意喚起として社員に共有することもできます。

このように、最新のテクノロジーは表裏一体の価値をもたらします。
今後も生成AIを用いた攻撃は増え続けると想定されますが、守る側である私たちも、積極的に応用してみることをおすすめします。