Snowflake, företaget bakom AI Data Cloud, lanserar dynamic model routing, en ny funktion i Cortex AI Gateway och Snowflakes främsta AI-produkter som automatiskt väljer den AI-modell som ger bäst balans mellan kvalitet, hastighet och kostnad för en specifik uppgift. Målet är att hjälpa företag sänka onödiga AI-kostnader när användningen av AI-applikationer och agenter ökar.
I stället för att använda samma och ofta den mest avancerade och kostsamma AI-modellen för alla uppgifter kan den dynamiska modellstyrningen i Cortex AI Gateway styra enklare och repetitiva uppgifter till mer effektiva modeller. Uppgifter som kräver mer avancerad analys och resonemang kan samtidigt fördelas till mer avancerade och kraftfulla modeller.
I Snowflakes interna tester har metoden gett tydliga effektivitetsvinster. AI-agenter som använde dynamisk modellstyrning med Cortex AI Gateway byggde en dbt-pipeline med upp till tre gånger högre tokeneffektivitet och bibehållen kvalitet, jämfört med att enbart använda en frontier-modell. I ett separat test genomförde utvecklingsteam lika många ”pull requests” med 25 procent högre tokeneffektivitet. *
–Företag blir allt mer noggranna när det gäller ekonomiska aspekter av AI. Frågan handlar inte längre om hur mycket AI de använder, utan om den AI:n omsätts till meningsfullt affärsvärde, säger Sridhar Ramaswamy, CEO för Snowflake. För att uppnå effektivitet med AI krävs flexibilitet att använda den modell som är bäst lämpad för varje enskild uppgift i takt med att landskapet utvecklas. Snowflakes roll är att hantera den komplexiteten så att kunderna kan fokusera på resultaten medan vi optimerar modellvalet i bakgrunden.
Snowflake utökar samtidigt utbudet av öppna AI-modeller i Snowflake Cortex AI. DeepSeek-V4-Flash 0731 blir tillgänglig i private preview och GLM-5.3 blir tillgänglig i private preview inom kort. De kompletterar modeller från bland andra Anthropic, OpenAI, Google, SpaceXAI och Mistral.
Dessutom lanseras även nya funktioner för att följa upp och kontrollera AI-användning och kostnader, sätta utgiftsgränser och kvoter samt fördela AI-kostnader mellan exempelvis olika avdelningar och kostnadsställen.
Dynamic model routing integreras i Snowflakes AI-produkter Snowflake CoCo och Snowflake CoWork och kan även användas av AI-agenter från tredje part via Cortex AI Gateway.
BIld av Brian Penny
