X is piloting a program that lets AI chatbots generate Community Notes | TechCrunch
Xは、AIチャットボットが「コミュニティノート」を生成できる機能を試験的に導入することを発表しました。
この「コミュニティノート」は、ユーザーが特定の投稿に対して文脈を追加するコメントを提供し、他のユーザーによって確認される仕組みです。
例えば、AI生成の出所が不明瞭な動画の投稿について明確でない場合や、政治家の誤解を招く投稿に対する補足として表示されることがあります。ノートは、これまでの評価で意見が一致しなかったグループ間で合意が得られた場合に公開されます。
この機能は、Xが所有するサービスの下でElon Musk氏によって拡張され、成功を収めたため、MetaやTikTok、YouTubeなども同様の取り組みを始めています。
しかし、AIチャットボットをファクトチェックに使用することが有益か有害かはまだ不明です。
AIによって生成されたノートは、XのGrokや他のAIツールをAPI経由でXに接続することで作成され、人間が送信するメモと同じように扱われ、正確性を高めるために同じ審査プロセスが行われます。
最近発表された研究によると、AIと人間が協力して作業することが推奨されています。人間のフィードバックはAIのノート生成を強化し、最終的なチェックとして人間の評価者が残ることが重要です。
このアプローチの目的は、ユーザーに考える力を与え、人間がより批判的に考え、世界をより深く理解できるようにすることです。
ただし、AIに過度に依存するリスクも存在します。特に、ユーザーがサードパーティのLLMを組み込むことができるため、正確なファクトチェックよりも「有用性」を優先するモデルが不正確なコメントを生成する可能性があります。
また、AI生成のコメントの量によって、人間の評価者が過負荷になり、ボランティア活動へのモチベーションが低下する懸念もあります。
現時点では、AI生成のコミュニティノートはまだ利用できず、Xは数週間のテストを行った後、成功すればより広範に展開する予定です。
SCALING HUMAN JUDGMENT IN COMMUNITY NOTES WITH LLMS
https://arxiv.org/pdf/2506.24118
