漏洩したデータにより中国のAI検閲システムが明らかに | TechCrunch

Leaked data exposes a Chinese AI censorship machine | TechCrunch

Exclusive: Leaked data exposes a Chinese AI censorship machine

One academic who reviewed the dataset said it was "clear evidence" that China, or its affiliates, wants to use AI to imp...続きを読む

techcrunch.com

農村中国の貧困に関する苦情。腐敗した共産党員に関するニュース報道。起業家を脅す腐敗した警官への助けを求める叫び。

これらはすべて、中国政府が敏感と見なすコンテンツを自動的にフラグ付けするために設計された高度な大規模言語モデル（LLM）に供給された133,000の例の一部です。

TechCrunchが確認した漏洩したデータベースは、中国がすでに強力な検閲システムを強化するAIシステムを開発したことを明らかにしており、天安門事件のような伝統的なタブーを超えて広がっています。

このシステムは主に中国市民のオンライン検閲を目的としているようですが、中国のAIモデルの検閲を改善するためにも使用される可能性があります。

このデータセットは、セキュリティ研究者のNetAskariによって発見され、Baiduサーバー上の安全でないElasticsearchデータベースに保存されていることが確認されました。
データセットの作成者は不明ですが、最新のエントリーは2024年12月の日付です。

このシステムの作成者は、無名のLLMに対して、政治、社会生活、軍事に関連する敏感なトピックが含まれているかどうかを判断するよう指示しています。これらのコンテンツは「最優先」と見なされ、即座にフラグ付けされる必要があります。

TechCrunchが調査したデータセットは、権威主義政府が抑圧的な目的のためにAIを活用しようとしている最新の証拠です。OpenAIは、特定の中国の団体が生成AIを使用して反政府の投稿を監視し、中国政府に報告していることを明らかにしました。

AI駆動の検閲が進化していることを強調することが重要です。特に、中国のAIモデルが注目を集めている今、国家の公共言論に対する制御がさらに洗練されていると述べています。