AIの無断学習は絶対許さない──Webクローラーを“出口のない落とし穴”に閉じ込めるプログラム、海外ユーザーが公開
Webを巡回してAIモデルの学習に使う情報をかき集めるクローラーの横行に対し、反発が強まっている。ある海外ユーザーが迷惑クローラーを“出口のない落とし穴”に閉じ込めて撃退するプログラム「Nepenthes」を公開した。
www.itmedia.co.jp
AIの無断学習に対抗するために開発されたプログラム「Nepenthes」は、Webクローラーによる無断情報収集を防ぐためのプログラム。
食虫植物「ウツボカズラ」にちなんでおり、クローラーを「出口のない落とし穴」に閉じ込めることを目指しています。サイバーセキュリティで使われる手法を応用し、クローラーを捕らえる。
Nepenthesは大量のリンクを持つWebページを生成し、クローラーを迷路のように誘導します。さらに「Markov」機能を有効にすると、無意味なページを無限に生成し、クローラーのリソースを消費させることができます。注意点として、Nepenthesは意図的に有害な動作を引き起こす可能性があり、使用には注意が必要です。また、このプログラムを使用すると、対象のWebサイトは検索結果から消える可能性があります。
開発者は、AIクローラーによるデータ収集を阻止し、ポイズニング攻撃を通じてAIモデルの学習データを汚染することを目指しています。
このように、NepenthesはAIの無断学習に対抗するための新たな手段として注目されていますが、その使用にはリスクが伴うことを理解する必要があります。
ZADZMO code
https://zadzmo.org/code/nepenthes/
コメント