企業向けの生成AIソリューションを管理・拡張するためのKongのAIゲートウェイ発表

Kong Inc.は、クラウドAPI技術のリーダーとして、生成AIワークロードをさまざまなクラウド環境で管理・保護するために設計されたAIネイティブAPIゲートウェイ「Kong AI Gateway」を発表しました。2月のベータ版リリース以降、企業が生成AIを運用するための取り組みを進める中で、大きな注目を集めています。

Kong AI Gatewayは、複数の大規模言語モデル（LLM）のサポート、セマンティックキャッシング、セマンティックルーティング、セマンティックファイアウォール、およびモデルライフサイクル管理など、AI向けに特化した包括的なインフラストラクチャ機能を備えています。また、既存のKong APIプラットフォームとシームレスに統合され、企業は伝統的なAPIとともにAIを管理できます。

KongのCTOで共同創設者のマルコ・パラディーノ氏は、「企業や開発者は、ユーザーや顧客体験を向上させるために革新的な生成AIユースケースを生み出しています。しかし、この最先端技術を本番環境でスケールさせるためには、堅牢なインフラストラクチャが不可欠です」と説明しました。

パラディーノ氏は、Kong AI Gatewayが、確立されたゲートウェイ機能を活用しながら広範なAI特有の機能を提供する、最も先進的なAIインフラストラクチャ技術の一つであると主張しています。彼はこの進化を、開発者を支えるための適切なインフラが整ったAPIの初期の頃に例えました。

Kong AI Gatewayは、アプリケーション間で多様なAI技術を管理・保護するための統一されたAPIインターフェースを提供する中心的なハブとして機能します。その広範な機能は、ガバナンス、可視化、セキュリティを含み、企業が生成AIの取り組みを効果的に展開・拡大するのを支援します。

Kong AI Gatewayの大きな利点は、AIトラフィックを内部的に解析し、複数のAIプロバイダーにアクセスするための統一APIを作成できることです。パラディーノ氏は、「他のAPI管理プラットフォームがLLM APIを標準APIとして扱うのとは異なり、Kongは新たなアプローチを採用しています」と述べています。

このゲートウェイは、AIプロンプトに関するプロンプトのセキュリティ、コンプライアンス、ガバナンス、テンプレート作成、ライフサイクル管理など、強力な機能を提供します。さらに、「L7 AI可視化メトリクス」を通じて、プロバイダーのパフォーマンス、トークン使用量、コストに関する洞察を提供し、競合他社には見られない詳細な情報を提供します。

Kongの統一コントロールプレーン「Kong Konnect」は、伝統的なAPIとともに、微調整されたAIモデルの収益化を促進します。パラディーノ氏は、「APIの収益化における次のフロンティアは、モデル自体です。独自の企業インテリジェンスに基づくモデルの微調整は、大きな価値を持つ」と説明しています。

この発表は、OpenAIのChatGPTの成功を受けた生成AIへの高まる関心を背景にしています。しかし、多くの企業はこの技術を効果的に展開・管理する上での課題に直面しています。Kongは彼らが直面する課題を解消するために、この専門的なAIゲートウェイを提供します。

「すべての企業が我々の作り上げたものを再現したいと望んでいました」とパラディーノ氏は述べ、圧倒的な需要が製品の一般提供を加速させた要因であると強調しました。「すでに、ベータ版であっても、生産環境でこの機能を利用している企業顧客がいます。」

2009年にMashapeとして設立され、2017年にKongにブランド変更した同社は、1億7000万ドル以上のベンチャー資金を調達し、500社以上のグローバル組織に対して数兆のAPIトランザクションをサポートしています。AIネイティブインフラに戦略的に注力するKongは、企業環境における生成AIの次の波を推進するのに最適な位置にあります。

「生成AIを大規模に展開するためには、適切なAIインフラの導入が不可欠です」とパラディーノ氏は結論づけました。「Kong AI Gatewayはその解決策です。」