タグアーカイブ AI Gateway

GPT 5.6 Sol、Terra、LunaがAI Gatewayで利用可能に

GPT 5.6 Sol、Terra、LunaがAI Gatewayで利用可能に

GPT 5.6の3モデルがAI Gatewayで利用可能に

GPT 5.6の3モデルがAI Gatewayで利用可能に

OpenAIの最新モデルシリーズ「GPT 5.6」が、VercelのAI Gatewayで限定的なプレビュー提供を開始した。Sol・Terra・Lunaの3モデルが揃い、いずれもコーディングや生物学、サイバーセキュリティといったエージェント的なタスクで従来世代より強化されている。トークン効率も向上しており、同等の処理をより少ないコストで実行できるのが特徴だ。

AI Gatewayは複数のAIプロバイダに統一APIでアクセスできるサービスで、利用状況の追跡やコスト管理、リトライやフェイルオーバー、パフォーマンス最適化を一手に引き受ける。今回の追加により、開発者はコードを変更せずに最新のGPTモデルへ移行できるルーティング機能も利用可能になった。

GPT 5.6 Sol・Terra・Lunaの違い

GPT 5.6 Sol・Terra・Lunaの違い
Sol 最高性能のフラッグシップ
コーディングやエージェントタスクで最大の能力を発揮し、複雑な問題解決に最適な最上位モデル。
Terra バランス型の普段使い
前世代と同等の性能を半額のコストで実現する高コスパモデル。日常的な開発業務に適している。
Luna 低コストの高速モデル
シリーズ最安値ながら十分な処理能力を持ち、応答速度を重視するユースケースに向く。

モデル指定はAI SDKでopenai/gpt-5.6-solのようにスラッグを渡すだけだ。用途や予算に応じて切り替えやすい設計になっている。

コードを触らずにモデルを切り替えるルーティングルール

コードを触らずにモデルを切り替えるルーティングルール

AI Gatewayのルーティングルール機能を使うと、既存のコードを一切変更せずにモデルを差し替えられる。たとえばopenai/gpt-5.5で動いているアプリケーションを、コマンド1行でopenai/gpt-5.6-solへ振り向けることが可能だ。

従来のアプローチ(Before)
コード内でモデル名を直接書き換える必要があり、複数サービスの一括変更やテストが手間だった。
ルーティングルールを使う方法(After)
Gateway側でrewriteルールを設定するだけで、アプリコードに手を入れず最新モデルへ移行できる。
設定はCLIから一括適用可能で、複数プロジェクトの一斉切り替えにも対応する。

ルーティングルールはモデルのA/Bテストや段階的なロールアウトにも活用できる。本番環境でいきなり全トラフィックを新モデルに向けるのではなく、一部だけ振り分けて様子を見る運用も現実的だ。

AI Gatewayの料金体系とその他の機能

AI Gatewayの料金体系とその他の機能

AI Gatewayはプロバイダの利用料金に上乗せせず、推論に対するプラットフォーム手数料も請求しない。BYOK(Bring Your Own Key)で自身のAPIキーを持ち込んだ場合でも同様に手数料は発生しないため、コストを厳密に管理したいチームにとっては安心できる設計だ。

利用状況の可視化と制御に役立つ機能も充実している。主なものは以下のとおりだ。

  • カスタムレポートでチームやプロジェクト単位の利用状況を把握できる
  • ゼロデータ保持(ZDR)に対応し、機密性の高いプロンプトの取り扱いも安心
  • APIキー単位で予算上限を設定し、予期せぬコスト超過を防ぐ
  • ルーティングルールでモデル切り替えやフェイルオーバーを自動化する

実際の開発フローに組み込む際の注意点

GPT 5.6シリーズは限定的なプレビュー提供の段階にある。本番環境で全面的に切り替える前に、モデルプレイグラウンドで動作を検証し、期待する出力品質やレイテンシが得られるか確認することを推奨する。特にエージェント的な使い方をする場合、従来モデルとはプロンプトの最適な書き方が変わる可能性もある。

また、Terraは「前世代と同等性能・半額」というコストメリットが明確だが、SolとLunaはユースケースによって費用対効果が大きく変わる。まずは低コストのLunaでプロトタイプを作り、本格的なタスクではSolに切り替えるといった段階的な活用が現実的な戦略になるだろう。

この記事のポイント

  • GPT 5.6のSol・Terra・LunaがAI Gatewayで限定プレビュー提供を開始
  • Terraは前世代と同等の性能を半額で提供するコストパフォーマンスが最大の魅力
  • ルーティングルールによりコード変更なしでモデルを切り替え可能
  • AI Gatewayはプロバイダ料金に上乗せせず、BYOKでも手数料なし
Cloudflareが企業のAIコスト爆発を制御、AI Gatewayに利用上限を搭載

Cloudflareが企業のAIコスト爆発を制御、AI Gatewayに利用上限を搭載

企業におけるAI導入の最大の壁はもはや技術力ではない。管理不能なコストの爆発だ。2026年6月5日、Cloudflareは自社のAI Gatewayに新たな「利用上限」機能を搭載し、この課題への直接的な解決策を提示した。

多くの企業では全エンジニアに最先端モデルのAPIキーを共有している。月末に届く高額な請求書を見て、経理とCTOが頭を抱える。誰が何に使ったのか全く分からないのだ。Cloudflareの今回の発表は、まさにこの無法地帯に統制をもたらすものだ。

併せて発表されたアイデンティティベースの予算管理は、Cloudflare Accessと既存のIdP(Identity Provider / アイデンティティプロバイダー)を組み合わせ、個人やチーム単位での正確なコスト帰属を実現する。

なぜAIコストは制御不能に陥るのか

なぜAIコストは制御不能に陥るのか

AI導入を進める企業で、まったく同じストーリーが繰り返されている。現場には「まずは最速でAIを使え。勘定は後でなんとかする」という号令が飛ぶ。これは大抵の場合うまくいく。実際、AIを積極的に取り入れたチームの生産性は飛躍的に向上している。しかし、その代償は安くない。月末に経理がAPI利用料の請求書を開くと、にわかには信じがたい桁の数字が目に飛び込んでくるのだ。

Cloudflareのブログ記事でも、この構図は明確に描写されている。社内で共有されているAPIキーでは、コストの発生源を追跡できない。機械学習チームの新規パイプライン構築が原因なのか、インターンがメールの仕分けに高額なClaude Opusを使い倒したのか、あるいはCI/CDジョブが週末のうちに何千万トークンも消費したのか、誰にも分からない。

問題の本質は、指標と制御の欠如により、合理的な判断が歪められてしまうことにある。予算も可視化もなければ、常に最も強力で高価なモデルを選ぶのが個々のエンジニアにとっては合理的な行動となる。コードレビューの要約に、大規模なアーキテクチャ再設計と同じモデルは必要ない。ログパーサーに、顧客向けコンテンツ生成と同じモデルは不要だ。しかし、現場には適切な道具を選ぶ動機も手段も存在しなかったのである。

制御なきAI利用の悪循環(Before)
開発者A タスクすべてに 最高額モデル を使用
開発者B CI/CDで無尽蔵に トークン消費
月末の悲劇 誰が何に使ったか不明な高額請求
AI Gateway導入後(After)
開発者A タスクに応じて 適切なモデル に自動ルーティング
管理者 チーム/人ごとの利用額を リアルタイム把握
予算内に統制 コスト帰属が明確化
この図は従来の無秩序な消費とAI Gatewayによる制御の概念的な比較を示したイメージである。

利用上限機能を深掘りする

利用上限機能を深掘りする

中核となる仕組み

AI GatewayはアプリケーションとAIプロバイダーの中継点として機能する。OpenAIやAnthropicへの直接APIコールを、まずこのゲートウェイを経由させる仕組みだ。これにより、リクエストの永続化ログ、キャッシュ、レート制限、リトライ、分析といった恩恵が得られていた。しかし、従来は「誰がいくら使ったか」の正確なトラッキングに限界があった。

ここに新たに導入された利用上限機能は、真のコスト統制を実現する。トークンベースではなく、ドルベースの予算で累積支出を追跡する点が実務的だ。制限のスコープは、モデル、プロバイダー、ユーザーやチームといった管理者定義のカスタム属性の任意の組み合わせで設定できる。期間も固定(月初リセットや月曜リセット)かローリング(直近N日間)かを選べ、日次、週次、月次での運用が可能だ。

予算超過時の現実的な選択肢

最も重要なポイントは、上限到達時の処理だろう。デフォルトではリクエストをブロックする。だが、ワークフローを完全に止めないための工夫として、ダイナミックルートと連携したフォールバックモデルへの切り替えが可能だ。これなら、最大予算額に達してもエンジニアの作業が完全に停止することはない。

STEP 1 チームに月額5,000ドルの予算を設定(対象は最上位モデル)
STEP 2 累積コストが5,000ドルに到達、ブロックが作動
STEP 3 後続リクエストは自動的により安価なフォールバックモデルへルーティング
STEP 4 管理者にアラート通知(近日対応予定)、業務は停止せず継続
利用上限到達時の処理フロー。ハードブロックではなく、グレースフルな縮退が可能な点が実用的である。

この機能群は本日から全プランの全ユーザーにオープンベータとして提供されており、ダッシュボードかAPI経由で即座に設定できる。

アイデンティティ駆動の予算管理がもたらす透明性

アイデンティティ駆動の予算管理がもたらす透明性

利用上限機能と同時に、Cloudflareはアイデンティティベースの予算とポリシーを限定ベータとして発表した。利用上限がモデルやカスタム属性による制御であるのに対し、こちらは実在の個人とチームに紐づく。アプリケーション側でメタデータを渡す必要はなく、信頼性の低いヘッダー情報に頼る必要もない。

Cloudflare Accessとの統合が生む確実な帰属

AI GatewayをCloudflare Accessと連携させると、リクエストの送信者が誰かを確実に特定できる。単なるアカウント単位ではなく、個々の従業員、IdPグループ、サービス単位だ。Cloudflare社内では既にこの仕組みを実践しており、全従業員がAIツールを利用する中で月間数十億トークンが流れるトラフィックを可視化している。

仕組みはシンプルだ。従業員がCloudflare Access経由で認証されると、そのアイデンティティがJWT(JSON Web Token)から抽出され、AI Gatewayのリクエストにメタデータとして添付される。これにより、ユーザー単位のトークン消費、チーム単位の使用量内訳、組織全体のコスト帰属が一元管理できるようになる。

アイデンティティベースの管理が可能にする粒度
個人 一般社員は月500ドル、シニアエンジニアは2,000ドル
チーム MLチームはGPT-4o、デザインチームは画像生成モデル
サービス CI/CDボットやドキュメント生成エージェントにも個別の予算を割当
各層で上限超過時のルーティング変更やブロックが可能になる。

CI/CDパイプラインへの適用とボット予算

この機能は人間だけのものではない。Accessサービスアカウントを利用すれば、自律的なエージェントやCI/CDパイプラインにも名前付きのIDを付与できる。コードレビューボットが今週500万トークンを消費し、ドキュメント生成器が50万トークンだった、といった詳細が手に取るように分かる。あるエージェントが制御不能に陥ったとしても、他のエージェントに影響を与えることなく個別に予算ポリシーを適用できるのだ。

Cloudflare自身、全社でこのスタックを運用した経験に基づいて本機能を公開した。自社で構築したものを他社もゼロから作る必要はない、という明快なスタンスである。

次の段階はコスト最適化の自動化

次の段階はコスト最適化の自動化

予算を設定し可視化することは、第一段階に過ぎない。次の課題は、限られた予算で最大の成果をどう引き出すかだ。現実には、すべてのリクエストに最先端モデルは不要である。要約タスクはより小さな安価なモデルでも品質を損なわずに実行できる。一方、大規模なコードリファクタリングには最新鋭のモデルが必要だ。しかし、制御がなければ人は常に最も高機能なモデルへ流れてしまう。

この問題に対し、Cloudflareはタスクベースのインテリジェントルーティングを鋭意開発中であると明かした。リクエストを分析し、最もコスト効率の良い結果を導くモデルへ自動的にルーティングする機能だ。詳細はデベロッパードキュメントとチェンジログで追って発表される。

現在の非効率な選択(Before)
メール要約 という単純タスクにも 最高額モデル を消費
インテリジェントルーティング(After)
メール要約 は自動で 軽量モデル に割り振り
大規模リファクタ は最適な 高性能モデル へルーティング
Cloudflareが開発中のタスクベースルーティングの概念図。タスクの複雑さに応じて最適なコストのモデルが自動選択される。

この記事のポイント

  • Cloudflare AI Gatewayにドル建ての利用上限機能が全プラン向けに登場した
  • 上限到達時はリクエストをブロックするか、より安価なフォールバックモデルに自動で切り替えられる
  • 限定ベータのアイデンティティベース予算は、個人やチーム単位で正確なコスト管理を実現する
  • これらの機能はCloudflareが自社の大規模AI運用で実証した手法を外部化したものである
  • 今後はタスクの複雑さに応じて最適なモデルへ自動ルーティングする機能の開発が予定されている
Gemini 3.5 Flash がVercel AI Gatewayで利用可能に。並列処理能力と推論機能が大幅向上

Gemini 3.5 Flash がVercel AI Gatewayで利用可能に。並列処理能力と推論機能が大幅向上

Googleの最新モデル「Gemini 3.5 Flash」が2026年5月19日からVercel AI Gatewayで利用可能になった。このモデルはコーディング能力と並列エージェント実行ループの性能が大きく向上し、複雑なタスクでも高い推論精度を発揮する。

AI Gatewayの統合APIを通じて呼び出せ、使用量の追跡やコスト管理、リトライやフェイルオーバーの設定も標準で備わっている。開発者は面倒な基盤管理なしに、最新のAIモデルを本番環境へ素早く組み込める。

この記事では、Gemini 3.5 Flash の進化点、AI Gateway での具体的な使い方、実装時の注意点までを整理する。

Gemini 3.5 Flash の概要と新モデルの位置づけ

Gemini 3.5 Flash の概要と新モデルの位置づけ

Flash シリーズの進化

Gemini Flash シリーズは、Google が提供する軽量で応答速度に優れたAIモデル群だ。前世代のFlash 2.0と比べて、3.5 Flash では単なる速度向上にとどまらず、複数ステップのタスクを自律的に並列実行できるようになった点が大きな違いだ。

これにより、コーディングの効率化や、複数のAPIを同時に呼び出すようなエージェント型アプリケーションで強力なパフォーマンスを発揮する。

今回のアップデートで強化された点

  • コーディング補完の精度向上
  • 並列エージェント実行ループの大幅な最適化
  • コア推論能力と命令追従性の改善
  • マルチターン会話の一貫性向上
  • 思考モード(thinking mode)での高品質な推論トレースの生成

並列エージェント実行ループの進化

並列エージェント実行ループの進化

並列化によるパフォーマンス向上

従来のFlashモデルは、一連のタスクを逐次的に処理する傾向があった。たとえばコードリファクタリングの際に「API呼び出しAの完了を待ってからAPI呼び出しBを実行する」といった流れになる。これに対し、3.5 Flash は複数の独立した処理を同時に並列実行する能力が格段に上がっている。

並列実行のメリットは、応答待ち時間の大幅な短縮と、システム全体のスループット向上だ。特にマイクロサービス間の連携や、複数の外部データソースを一括で処理する場面で効果を発揮する。

従来の Flash モデル(逐次実行)
API呼び出し1 API呼び出し2 API呼び出し3
※順次実行のため全体の処理時間が長くなる
Gemini 3.5 Flash(並列エージェント実行)
API呼び出し1 API呼び出し2 API呼び出し3
※並列実行で待ち時間を大幅短縮、全体のレスポンスタイムが向上

この比較はあくまで概念図だが、実際のアプリケーションでは複数の独立した処理を同時に走らせることで、体感速度やスループットが大きく改善される。

thinking モードと推論トレースの強化

thinking モードと推論トレースの強化

thinking level の選択

Gemini 3.5 Flash はデフォルトで「medium」のthinking levelが設定されている。これは、応答の品質と生成速度、そしてコスト効率のバランスを取るための設計だ。より複雑な推論が必要な場合は high レベルに変更することも可能で、その場合は推論プロセスがより深く行われる。

たとえば、コードのリファクタリングや多段階の意思決定が必要なタスクでは、thinking level を high に設定することで、AIが問題をより細かく分解し、質の高い答えを導き出す。

マルチターンコヒーレンスと複雑タスク

3.5 Flash では、マルチターンの会話における一貫性も改善されている。以前のFlashモデルに比べて、前のやり取りを適切に保持しながら、矛盾のない回答を返す精度が向上している。これにより、長時間のコード生成や、会話型のエージェントアプリケーションでも安定した挙動が期待できる。

複雑なタスクでは「thinking traces(思考の痕跡)」がより詳細に出力されるため、モデルがどのような過程で結論に至ったかを検証しやすい。デバッグや品質管理の面で大きなメリットだ。

Vercel AI Gateway の機能とメリット

Vercel AI Gateway の機能とメリット

統合APIとプロバイダールーティング

Vercel AI Gatewayは、複数のAIプロバイダーを統一的なインターフェースで利用できるプラットフォームだ。開発者はプロバイダーごとに異なるAPIキー管理やエンドポイントを意識することなく、model の指定だけでモデルを切り替えられる。

さらに、AI Gatewayはインテリジェントなルーティング機能を備えており、特定のプロバイダーに障害が発生した場合に自動で別のモデルへフェイルオーバーしたり、リクエストをリトライしたりできる。これにより、単一プロバイダーを直接使うよりも可用性が向上する。

観測性とカスタムレポート

AI Gatewayには、使用量の追跡やコスト分析のためのカスタムレポート機能が組み込まれている。プロジェクトごと、環境ごとにAPI呼び出し回数やトークン消費量を可視化できるため、予算管理やボトルネックの発見に役立つ。

また、AI SDK Observability との連携により、モデルの応答時間やエラーレートを詳細に監視できる。Bring Your Own Key にも対応しており、自社で契約したAPIキーをAI Gateway経由で安全に利用できる点も企業ユースに適している。

AI SDK での実装方法と注意点

AI SDK での実装方法と注意点

コード例

AI SDK を用いて Gemini 3.5 Flash を呼び出すには、以下のように streamText 関数を使う。モデル名に google/gemini-3.5-flash を指定し、必要に応じて thinking level を設定する。

import { streamText } from 'ai';

const result = streamText({
  model: 'google/gemini-3.5-flash',
  prompt: 'Refactor this service to run API calls in parallel.',
  providerOptions: {
    google: {
      thinkingConfig: {
        thinkingLevel: 'high',
        includeThoughts: true,
      },
    },
  },
});

thinking level は 'medium'(デフォルト)と 'high' から選択でき、複雑なタスクでは 'high' を指定すると良い。なお、includeThoughts: true にすると推論過程のトレースもレスポンスに含められる。

サポート外のパラメータと制約

Gemini 3.5 Flash では temperaturetopPtopKthinking_budget といったパラメータはサポートされていない。以前のモデルでこれらの値を調整していた場合は、デフォルトの挙動に任せるか、他のモデルを検討する必要がある。

特に thinking_budget が使えない点は、推論にかかるコストを細かく制御したい場合に注意が必要だ。そのぶん thinking level の切り替えで大まかな品質とコストのバランスを取る設計になっている。

この記事のポイント

  • Gemini 3.5 Flash は並列エージェント実行ループの性能が大幅に向上し、コーディングや複数API呼び出しに強い
  • デフォルトで medium の thinking level を採用し、品質・速度・コストのバランスを最適化
  • Vercel AI Gateway によって統合API、リトライ、フェイルオーバー、観測機能をフル活用できる
  • temperature や topP などの一部パラメータは非対応のため、移行時には注意が必要
  • AI SDK 経由で数行のコードで導入可能、並列化のメリットをすぐに享受できる