企業向け支出管理プラットフォームを展開するRampは、自社開発のAIモデルルーター「Router」のローンチを発表しました。本ツールは、複数の大規模言語モデル(LLM)を効率的に組み合わせ、最適に活用するためのインフラストラクチャです。
「Router」は、Rampのプラットフォーム内で入力されるクエリの性質を動的に判断し、そのタスクにとって最も適切かつコスト効率の良いAIモデルへリクエストを転送するシステムです。単一のモデルに依存せず、処理性能やコスト、応答速度の要件を自動的に勘案して最適なモデルを選択・実行します。
現在、企業が複数のLLMを適材適所で使い分けるニーズは高まっていますが、各モデルの特性を把握し、手動でルーティング設定を最適化し続けることには多大な運用コストがかかります。Rampは、この最適化工程を自動化することで、開発者がモデル構成に悩む時間を削減し、AI導入の費用対効果を最大化させることを目指しています。
Rampは、このRouterを通じて自社プロダクト内のAI活用を高度化させると同時に、AI技術を駆使した支出管理プラットフォームの自動化をさらに推し進めていく方針です。