1/18号 ② フィッシングメールや攻撃プログラムをAIで生成…

2022年は画像の自動生成を行うAIが複数登場したこと等が大きな話題となり、ChatGPTもこの流れで11月に登場したばかりのAIでした。

各AIは既存の絵やテキストから学習しており、ChatGPTも通常のメール・ビジネス文書からフィッシングメールメールまで、あるいは悪意のあるコードを含めた様々なプログラムのソースで学習しているとみられます。

今後攻撃者側の攻撃準備の労力削減のため積極的にAIを用いてフィッシングメールやマルウェア等の生成を行い、攻撃メール等の量も増加する可能性は考慮すべきですが、基本的なセキュリティ対策としてはこれまで同様、アンチウイルスやブラウザーによるアンチフィッシング機能、UTM等による防御を固めることが重要です。

不正行為に限らず、業務用の文書・メール・プログラム等のテンプレートを生成するといった用途に活用する向きも散見されますが、自社や顧客の情報を含んだ文章・テキストの入力により、生成されるテキストから第三者に機密情報が露呈してしまう恐れがあるため、入力内容には十分に注意を払うよう啓発を行うべきでしょう。