Researchers hacked Google Gemini to take control of a smart home – engadget.com
最近のサイバーセキュリティ研究において、GoogleのAIアシスタント「Gemini」がハッキングされ、スマートホームデバイスを制御される事例が報告されました。
この研究は、ブラックハットサイバーセキュリティカンファレンスで発表され、研究者たちはGoogleカレンダーの招待状を利用した間接的なプロンプトインジェクションを通じて、スマートデバイスに対して不正な指示を送ることに成功しました。
具体的には、ユーザーがカレンダーの要約をGeminiに依頼し、その結果に感謝する際に、悪意のあるプロンプトがGoogleのホームAIエージェントに窓を開けたり、ライトを消したりするよう指示するというものでした。
この攻撃の手法は、研究チームが2月にGoogleに直接報告した後、実際にデモが行われました。
Google Workspaceのセキュリティ製品管理のシニアディレクターであるAndy Wen氏は、プロンプトインジェクション攻撃が今後も続く可能性があることを認めつつ、一般ユーザーがそれを心配しないようにすることを目指していると述べました。
彼は、こうした攻撃が現実世界で発生することは非常に稀であるとしながらも、大規模な言語モデルの複雑さが悪用の可能性を高めていると警告しました。
Googleは、研究者たちが発見した脆弱性を非常に真剣に受け止め、これを基に攻撃を防ぐためのより良いツールの開発を加速させていると述べています。
Wen氏は、Googleがこの問題に対処するために取り組んでいることを強調し、ユーザーが安心して利用できる環境を整えることが重要であると強調しました。
この研究は、AI技術の進化とそれに伴うセキュリティリスクの増大を示す重要な事例であり、今後の技術開発においてセキュリティ対策がますます重要になることを示唆しています。
Google Online Security Blog: Mitigating prompt injection attacks with a layered defense strategy
https://security.googleblog.com/2025/06/mitigating-prompt-injection-attacks.html
