Improvements in ‘reasoning’ AI models may slow down soon, analysis finds | TechCrunch
Epoch AIという非営利のAI研究機関の分析によると、推論AIモデルの性能向上は近い将来鈍化する可能性があるとされています。早ければ1年以内に推論モデルの進展が減速する可能性があるとのことです。
推論モデル（例：OpenAIのo3）は、最近の数学やプログラミングスキルを測定するベンチマークで大幅な向上を示していますが、従来のモデルよりもタスクを完了するのに時間がかかるという欠点があります。これらのモデルは、まず大量のデータでトレーニングされた後、強化学習を用いて解決策にフィードバックを与えることで開発されます。
推論モデルの推論トレーニング計算量に関する公開情報はほとんどありませんが、OpenAIは、o3の訓練において前のモデルの約10倍の計算能力を使用したと述べており、今後は強化学習にさらに多くの計算リソースを投入する計画です。しかし、Epochによれば、強化学習に適用できるコンピューティングには上限があるとされています。
現在、標準的なAIモデルの性能向上は毎年4倍、強化学習からの向上は3～5ヶ月ごとに10倍になっていますが、推論モデルの進展は2026年までに学習計算量の全体的な成長率である年間約4倍に収束する可能性が高いとされています。また、推論モデルのスケーリングには高い研究コストが影響する可能性があり、これが進展を妨げる要因となるかもしれません。
このような推論モデルの限界の兆候は、AI業界にとって懸念材料であり、特にこれらのモデルの開発に多大なリソースを投資しているため、より深刻な問題となるでしょう。しかし逆に、推論モデルは計算能力の伸びが鈍化した後も急速に進化し続ける可能性があります。
おそらく、これまでの推論モデルの進歩の大部分は、データやアルゴリズムの革新によるものだったのでしょう。
しかし、急速な計算能力のスケーリングは推論モデルの進歩において非常に重要な要素となる可能性があり、注意深く追跡する価値があります。
ただ既に研究では、運用コストが非常に高くなる可能性のある推論モデルには、従来のモデルよりも幻覚を起こしやすい傾向など、深刻な欠陥があることが示されています。
How far can reasoning models scale? | Epoch AI
https://epoch.ai/gradient-updates/how-far-can-reasoning-models-scale
