OpenAI が Responses API の WebSocket 活用事例を公開 ── エージェントワークフローのレイテンシを大幅改善
OpenAIがCodexのエージェントループ周りの技術解説を出してきた。WebSocketと接続スコープのキャッシュを組み合わせることで、APIの無駄なオーバーヘッドを削りつつモデルのレイテンシを改善している。エージェント系の開発をしている人にはかなり実践的な内容。
▸何が変わったのか
Codex agent loopの内部動作についての深掘り記事が公開された。注目ポイントはWebSocketの活用とconnection-scoped cachingの導入。これらによってAPI overheadの削減とmodel latencyの改善を実現している。エージェントがループ内で何度もAPIを叩く场景で、この最適化はかなり効いてきそう。
◈前モデル / 競合との比較
従来のHTTPベースの接続と比べて、WebSocketによる持続的接続とconnection-scoped cachingによってAPI overheadを削減。特にエージェントループのような複数回呼び出しが発生するワークフローでのレイテンシ改善が期待できる。
◈技術背景と意義
従来のHTTP接続だとリクエストのたびに接続をやり直すオーバーヘッドが発生する。WebSocketを使えば持続的な接続を維持できるので、その無駄を省ける。さらにconnection-scoped cachingは、同じ接続セッション内でデータをキャッシュして再利用する仕組み。エージェントが複数回にわたってAPIを呼ぶワークフローでは、この二つの組み合わせが効いてくる。
▸こんな人・用途に
Codex agent loopを活用した自動コーディングツールの開発者。エージェント型のワークフローで複数ステップのタスクを実行するアプリの構築者。APIの呼び出し回数が多く、レイテンシが課題になっているサービスの開発チーム。
◆入手方法・リンク
本記事は技術解説のため、ソースコードの公開なし。Responses API自体はOpenAIのAPIプラットフォームから利用可能。詳細はOpenAIの公式ブログやAPIドキュメントを参照。
SOURCE: OpenAI (2026-04-22)
