Model Yönlendirme (Model Routing) Sessiz Sedasız Değişiyor: E-Ticarette LLM Maliyet ve Kalite Dengesi Nasıl Kurulur?

Herkes Tek Modeli Kullanıyor, Öne Çıkanlar Değil

2026 ortasında LLM kullanan e-ticaret ekiplerinin büyük çoğunluğu hâlâ tek bir modelle çalışıyor: ya en güçlüsünü alıp her şeye sürüyorlar ya da maliyeti düşük tutmak için zayıf bir modelde takılı kalıyorlar. Hugging Face'in yayımladığı "Model Routing Is Simple. Until It Isn't." başlıklı makale (15 Temmuz 2026), bu iki ucun arasında gerçekte ne kadar karmaşık bir denge oyunu döndüğünü somut biçimde ortaya koyuyor.

Model yönlendirme (model routing) fikri özünde basit: Her isteği en güçlü modele göndermek yerine, isteğin zorluğuna ve bağlamına göre doğru modeli seç. Ürün açıklaması yenile — küçük model yeter. Müşterinin karmaşık iade talebini analiz et — frontier modele yönlendir. Ama pratikte bu karar mekanizmasını kurmak sandığından çok daha kırılgan.

Neden "Basit Routing" Hızla Çöküyor?

Sorun, isteğin zorluğunun önceden belirlenememesinde. Bir ürün açıklaması yazma görevi, eğer marka tonu kısıtları, yasal uyarılar ve çok dilli çıktı gerektiriyorsa aniden frontier model işi haline gelir. Statik kural tabanlı yönlendirme ("kısa prompt → küçük model") bu bağlamsal karmaşıklığı yakalayamaz.

Makale üç kritik sorunu mercek altına alıyor:

1. Gecikme ile kalite arasındaki çelişki: Frontier model kalite üretiyor ama yanıt süresi uzuyor. Anlık müşteri destek chatbot'unda bu kabul edilemez; yüksek AOV'lu bir ürün sayfası için optimize edilmiş içerik üretiminde ise gecikme sorun değil.

2. Maliyet izleme kör noktası: Routing kararları token bazında değil istek bazında yapılırsa maliyetler yanıltıcı görünür. 10.000 kısa ürün açıklaması, frontier modele gönderilen 50 detaylı içerik analizinden daha pahalıya gelebilir; ama gösterge paneline bakınca bu fark görünmez.

3. Feedback loop eksikliği: Hangi modelin hangi işi ne kalitede yaptığını sistematik olarak kayıt altına almayan firmalar, routing kararlarını zamanla iyileştirecek veriyi hiçbir zaman üretemiyor.

E-Ticaret Firması Bundan Ne Yapmalı?

Teorik değil, doğrudan uygulanabilir adımlar:

İş akışlarını "zorluk katmanlarına" göre sınıflandır. Shopify mağazasındaki tüm LLM kullanım noktalarını listele: ürün açıklaması, kategori metni, müşteri e-postası taslağı, reklam kopyası, iade analizi, öneri motoru. Her birini "düşük bağlamsal karmaşıklık / yüksek hacim" ve "yüksek bağlamsal karmaşıklık / düşük hacim" olarak etiketle.

Token maliyetini iş değeriyle eşleştir. Bir müşteri destek talebini frontier modele gönderip çözerken ortalama ticket başına maliyet nedir? Bu çözüm, insan müdahalesini kaç dakika kısaltıyor? Bu hesabı yapan firmalar routing kararını veriyle temellendiriyor; yapamayanlar sezgiyle tahmin ediyor.

Kalite izleme olmadan routing kör uçuştur. Küçük modele yönlendirilen çıktıları örnekle; bir insan gözden geçirsin ya da daha güçlü bir model "jüri" olarak değerlendirsin. Bu feedback loop olmadan, routing sistemi zaman içinde sessizce kötüleşir.

Routing kararını statik değil, bağlama duyarlı yap. Sabit kural yerine küçük bir sınıflandırıcı (hatta basit bir prompt) kullan: "Bu istek şu kriterleri taşıyorsa frontier modele gönder." Başlangıçta basit tutulabilir, ama kural tabanlıdan kural+sinyal tabanlıya geçiş önemli.

Asıl Risk: Görünmez Kalite Kaybı

Model routing'in en sinsi riski maliyet tasarrufu değil, kalite düşüşünün geç fark edilmesidir. Dönüşüm oranı yavaş yavaş düşüyor, müşteri yorumlarında içerik kalitesine dair şikayetler artıyor, reklam kopyası daha az rezonans kuruyor — ama ekip hâlâ "token maliyeti düştü, routing çalışıyor" sanıyor.

2026'da LLM maliyetleri hâlâ önemli bir kalem. Routing yapmak doğru. Ama routing'i kör yapmak, ucuz maliyetle üretilen düşük kaliteli çıktının e-ticaret metriklerine yavaşça zarar vermesine zemin hazırlar. Görünür maliyet tasarrufu ile görünmez kalite kaybını birlikte ölçen firmalar, bu oyunda gerçekten kazanacak olanlardır.