米調査会社Gartnerは、自律型AIエージェントの普及に伴う計算需要の激変に関する最新レポートを公開し、エージェント1ワークフロー当たりの推論コストが2028年までに現在の5倍以上に急増するとの予測を発表しました。
現在、単体モデルのトークン生成単価は技術革新により下落傾向にあるものの、自律エージェントが複数ツールの呼び出しや再試行、自己検証を連続して行うため、1回のタスク完了に要する総トークン消費量が指数関数的に爆発。
この「推論パラドックス（Inference Paradox）」により、2026年の世界推論インフラ支出（IaaS）は233億ドル（前年比96%増）に達し、モデル学習への投資額（190億ドル）を史上初めて上回る見通しです。
企業はAIエージェントの導入にあたり、トークン単価だけでなく、タスク全体のオーケストレーション効率とコスト最適化が最大の経営課題になると指摘しています（一次ソース：Gartner公式プレスリリース）。