Hugging Face’s chief science officer worries AI is becoming ‘yes-men on servers’ | TechCrunch
Hugging Face's chief science officer worries AI is becoming 'yes-men on servers' | TechCrunch
Hugging Face co-founder and chief science officer Thomas Wolf thinks that AI today isn't capable of figuring out novel s...続きを読む
techcrunch.com
Hugging Faceの最高科学責任者であるトーマス・ウルフ氏は、AIが「サーバー上のイエスマン」になりつつあることを懸念しています。彼は、現在のAI開発の枠組みでは、ノーベル賞を受賞するような創造的な問題解決能力を持つAIは生まれないと述べています。
現在のAIは、既存の知識のギャップを埋めることはできても、新しい知識を生成することはできない。彼は、AIが「非常に従順な学生」を作り出していると考えており、科学的革命を引き起こす存在ではないと指摘しています。
真の革新を生むためには、AIは他の誰も考えたことのない質問をする能力が必要であり、単に知識を持つだけでは不十分です。ウルフ氏は、「全ての教科書や専門家が間違っているのではないか？」という疑問を持つAIが必要だと述べています。
AIの評価基準が問題の一因であるとし、現在の基準は明確で閉じた答えを持つ質問が多いと指摘。彼は、AIが大胆な反事実的アプローチを取れるかどうかを測る新しい基準の導入を提案しています。ウルフ氏は、科学において最も重要なのは「正しい質問をする能力」であり、全ての質問に答えられる優等生のAIではなく、他の人が見逃したことを見つけて疑問を持つB学生のようなAIが必要だと強調しています。
