1. なぜ「速さ」が絶対ではなくなったのか

従来のWebシステムでは、レスポンス時間は直接UXに直結していました。

しかしAIシステムでは、レスポンスの生成過程そのものが価値になります。

従来の前提

• レイテンシ = ユーザーのストレス
• 応答は決定論的（DBから取得すれば終わり）
• 処理時間は最短化すべき対象

AI時代の前提

• レイテンシ = 思考プロセス
• 応答は非決定論的（生成・推論が必要）
• 処理時間は「品質とトレードオフ」

つまり、「速さ」は単体では評価できず、「何を得るための時間か」が重要になります。

2. パフォーマンス指標のパラダイムシフト

提示されている変化を、実務レベルに落とすと次のようになります。

レイテンシの再定義

従来：

• TTFB（Time To First Byte）
• LCP（Largest Contentful Paint）

AI時代：

• Time To First Token（最初の応答生成時間）
• Time To Useful Answer（意味のある回答までの時間）

ここで重要なのは、「完全な応答」ではなく「役に立つ最初の情報」です。

SLOの変化

従来のSLO：

• 99.9% uptime
• レスポンス < 200ms

AI時代のSLO：

• 正確性（Accuracy）
• 一貫性（Consistency）
• 根拠性（Faithfulness）
• 安全性（Toxicity / Hallucination率）
• コスト（1リクエストあたり）

つまり、「速いが間違っている」は失敗と見なされます。

3. 新しい評価軸をどう設計するか

提示されている評価軸を、設計レベルで具体化すると以下のようになります。

評価軸の分解

4. 「思考時間」を設計するという発想

ここが最も重要なポイントです。

悪い設計

• すべてのリクエストで最大推論
• 結果が出るまで無応答
• 重いモデルを常に使用

→ 遅い・高コスト・UX悪化

良い設計

ストリーミング応答

• 途中結果を逐次表示
• 「待ち時間」を「進行中の体験」に変換

段階的推論（multi-stage）

• 軽量モデルで仮回答
• 必要なら重いモデルで再生成

キャッシュ戦略

• 同一クエリの再利用
• embedding検索による近似回答

フォールバック設計

• AI失敗時 → ルールベース or FAQ
• UX崩壊を防ぐ

5. Webパフォーマンス最適化の実務戦略

AIを前提とした最適化では、「速さ」ではなく体験全体の制御が重要になります。

フロントエンド

• Streaming表示（途中結果を即時反映）
• 初回応答を優先（First meaningful response）
• ローディングではなく「進行状況の可視化」

バックエンド

• 軽量モデル → 重量モデルの段階実行
• 非同期処理で待ち時間を分離
• プロンプト最適化でトークン削減

インフラ

• キャッシュ（結果・embedding）の活用
• 推論処理の分離（API/Worker構成）
• LLM専用の監視（品質・コスト・遅延）

6. よくある誤解と失敗パターン

AI時代のパフォーマンス設計では、従来の常識がそのまま通用しません。

• 速さ最優先にする
  → 品質低下によりUXが悪化
• すべて高性能モデルで処理する
  → コスト増大・スケール不能
• 従来KPI（応答時間のみ）で評価する
  → 実際のユーザー価値と乖離

本質は「速いか」ではなく、「適切な品質を適切な時間で返せているか」です。

7. 実務で使える設計指針

現場で有効なのは、以下のバランス設計です。

• 初動は速く（数秒以内に何かを返す）
• 最終結果は正確に（品質担保）
• コストは段階制御（必要な時だけ重くする）
• UXは「待たせ方」で最適化

シンプルに言えば、「すぐ返す＋あとで良くする」構造を作ることが重要です。

8. 今後のWebパフォーマンスの方向性

今後は「速度最適化」から「体験設計」へ完全に移行します。

• Streaming前提のUI
• AI品質を含めたSLO設計
• フロント＋AIの統合設計
• ユーザー行動ベースの最適化

パフォーマンスは単なる数値ではなく、ユーザーがどう感じるかを設計する領域になります。

Webパフォーマンスは「速ければ良い」という単純な指標から、「どれだけ価値ある体験を提供できるか」という複合的な評価へと変化しています。AI時代において重要なのは、レイテンシを削ることではなく、ユーザーにとって意味のある「待ち時間」と「結果」を設計することです。これからのエンジニアに求められるのは、単なる最適化技術ではなく、品質・コスト・UXを統合的に判断できる設計力です。この視点を持てるかどうかが、今後のWeb開発における競争力を大きく左右します。