Google、イランや中国によるGemini悪用についての調査結果を報告
Googleは、中国やイランなどの政府支援の脅威アクターによる生成AIの悪用に関する調査結果を公表した。今のところAI固有の攻撃や高度な悪用は確認されていないが、継続的な監視と対策が不可欠だとしている。
www.itmedia.co.jp
米Googleのサイバー脅威対策チームGoogle Threat Intelligence Groupは1月29日（現地時間）、中国やイランなどの政府支援の脅威アクター（サイバー攻撃者）による生成AIの悪用に関する調査結果を公表した。
2024年中、20カ国以上の数十の攻撃者グループが、悪意のあるコードの作成、サイバー脆弱性の探索、攻撃対象組織の調査などのタスクでGoogleの「Gemini」を使ったという。
例えば中国の脅威アクターは、Geminiを米軍や米国のITサービスプロバイダーに関する情報収集や、SNSの技術的概念の把握に利用した。偽のニュースキャスターの動画作成も試したが、視聴者のエンゲージメントは向上しなかったという。
イランの脅威アクターが最もGeminiを積極的に利用した。フィッシングキャンペーンやフェイクニュース記事の作成とその翻訳に活用しているという。
このように、AIは一般的なタスクに利用されてはいるものの、AI固有の攻撃や高度な悪用は確認されていないという。基本的なプロンプトの言い換えや繰り返しが試みられたが、いずれも失敗に終わっている。
公式ブログ
https://cloud.google.com/blog/topics/threat-intelligence/adversarial-misuse-generative-ai/
