Researchers seek to influence peer review with hidden AI prompts | TechCrunch
Researchers seek to influence peer review with hidden AI prompts | TechCrunch
Academics may be leaning on a novel strategy to influence peer review of their research papers — adding hidden prompts d...続きを読む
techcrunch.com
最近の研究では、学術論文の査読プロセスにおいて、著者が隠れたAIプロンプトを使用してポジティブなフィードバックを引き出そうとする新たな戦略が明らかになりました。
具体的には、英語のプレプリント論文を調査した結果、17件の論文において、AIツールに「ポジティブなレビューのみを行う」よう指示する短いプロンプトが含まれていることが確認されました。
これらの論文は、主にコンピュータサイエンスに関連しており、プロンプトは白い文字や非常に小さなフォントで隠されていました。
この研究は、早稲田大学やKAIST、コロンビア大学、ワシントン大学など、8カ国の14の学術機関に所属する著者によって行われました。ある早稲田大学の教授は、AIによる査読が禁止されている会議が多いため、これらのプロンプトは「怠惰な査読者」に対抗するための手段であると弁明しています。
このような行為は、査読の公正性や信頼性に疑問を投げかけるものであり、学術界におけるAIの利用が新たな倫理的課題を引き起こす可能性があります。AI技術の進化に伴い、研究者たちがどのようにこの技術を利用し、またその影響をどのように管理していくかが今後の重要なテーマとなるでしょう。
論文内に秘密の命令文、AIに「高評価せよ」 日韓米など有力14大学で – 日本経済新聞
https://www.nikkei.com/article/DGXZQOUC13BCW0T10C25A6000000/
