最近、人工知能の分野でリーダーシップを誇るOpenAIとMicrosoftは、サイバー攻撃にAIツール(ChatGPTを含む)を使用している国家支援の悪質なアカウント5件が閉鎖されたことを発表しました。これらのアカウントは、中国、イラン、北朝鮮、ロシアに関連しています。
中国関連の2つのグループ、「CHROMIUM」と「SODIUM」は、米国の防衛請負業者や政府機関、暗号分野の企業を標的にしているとされています。イランの脅威アクターは「CURIUM」、北朝鮮のグループは「THALLIUM」、ロシアの団体は「STRONTIUM」と名付けられています。
OpenAIの声明によると、これらの脅威アクターはオープンソース情報の収集、翻訳、コーディングエラーの特定、基本的なコーディングタスクを実行するために自社のサービスを悪用しました。しかし、調査の結果、OpenAIのモデルは悪意のあるサイバーセキュリティタスクに関しては非常に限られた機能しか持っていないことが明らかになりました。さらにMicrosoftは、ロシアの軍事情報部門が「Forrest Blizzard」として知られ、大規模言語モデルを利用し、ウクライナでの軍事作戦に関連する衛星やレーダーテクノロジーの研究を行い、自動化や技術最適化を目指していることを明らかにしました。
CHROMIUMとSODIUMは、米国の防衛請負業者や関係機関をターゲットにした過去の経歴があります。彼らは法的な専門知識を活用し、情報機関や企業に問いかけ、コードを生成し、コーディングエラーを特定し、翻訳タスクを行いました。同時に、CURIUMとTHALLIUMもOpenAIのツールを利用してフィッシングコンテンツを作成しました。
OpenAIとMicrosoftは大規模な攻撃を明確には検知していませんが、引き続き警戒を怠らず、AIを悪用した悪質な活動のリスクを軽減するための対策を提案しています。両社は、これらの脅威アクターに関連する活動を監視し、さまざまな関係者と連携して悪質行為に関する情報を共有し、公衆と関係者の意識を高めていくとしています。
この一件は、人工知能技術が急速に進化する中で、サイバー攻撃の手法も進化していることを強く示しています。企業や個人は情報や資産を保護するためにサイバーセキュリティ対策を強化する必要があります。また、政府や国際社会は、AI技術を悪用したサイバー攻撃に対抗するための協力を強化し、サイバースペースの平和と安全を確保する必要があります。