速報 · 産業への影響
トークンあたりのコストは280分の1に下がったが、推論モデルは1回の回答で数十倍多くのトークンを消費する——AIは安くなったと同時に高くなった。両方とも真実である。
Dmitri Volkov
·
2026年08月15日
過去数年間、AI業界の設備投資に関する物語はほぼ一つの光景に集中していた。研究機関が数十億ドルを投じてより大きな訓練クラスタを構築し、より多くの計算量とデータをモデルに詰め込み、それを次世代モデルの能力向上と引き換えにするというものだ。しかし推論モデル(reasoning model)の台頭とともに、この光景は書き換えられつつある。実際に最も急速に成長している設備投資項目は、「訓練」から「推論」へと徐々にシフトしており、この転換の背後にある推進力こそが、比較的新しい技術路線であるテスト時計算量(test-time compute)である。推論コストの二面性:単価は下落しているが、総支出は上昇しているスタンフォード大学のAIインデックス(Stanford...