Modeller ve sağlayıcılar

#Sağlayıcılar

Orbi dört LLM sağlayıcısını destekler.

Ayrıca sunucuda Ollama çalışır, ama yalnızca embedding üretimi için (semantik duplicate önleme).

Anahtar girmeden de çalışırsınız. Hiç API anahtarı eklemediyseniz agent'lar Orbi'nin ortak havuzundan (Gemini) servis edilir ve kullanım kredinizden düşer. Kendi anahtarınızı (BYOK) eklerseniz o sağlayıcının maliyeti doğrudan kendi hesabınıza yazılır ve aynı iş çok daha az kredi harcar. Kendi anahtarınız her zaman önceliklidir. Erişilebilir model kalmazsa arayüzde kalıcı bir bant görürsünüz. Bu bant, durumu bir görev hata verene kadar beklemeden görebilesiniz diye vardır.

#Birden çok anahtarla kesintisiz çalışma

Bir sağlayıcı için birden çok anahtar ekleyebilirsiniz.

• İstekler anahtarlar arasında round-robin dağıtılır.
• Bir anahtar kota veya oran sınırına çarparsa otomatik olarak diğerine geçilir.
• Anahtarlar AES-256-GCM ile şifreli saklanır.
• Girdiğiniz anahtarı kaydetmeden test edebilirsiniz.
• Bir anahtarı silmeden devre dışı bırakabilirsiniz. Anahtar havuzdan ve model listelerinden çıkar, ancak kaydı ve model deneme sonuçları korunur, yani tekrar etkinleştirmek anında geçerli olur.

Yoğun bir workspace'te ikinci bir anahtar eklemek, oran sınırından kaynaklanan hataları büyük ölçüde ortadan kaldırır.

Havuz tek bir sağlayıcının içinde döner. Sağlayıcıyı koşunun modeli belirler, yani bir Gemini modeliyle çalışan koşu yalnız Google anahtarlarınızı dener. Hepsi hata verirse koşu durur ve başka bir sağlayıcının anahtarına kendiliğinden geçilmez. Hata mesajı hangi modelin hangi sağlayıcıya bağlı olduğunu yazar. Başka bir sağlayıcının anahtarıyla çalışmak için ajanda, akışta ya da workspace varsayılanında o sağlayıcının bir modelini seçin.

#Dinamik model kataloğu

Model listesi koda gömülü değildir, sağlayıcıların model-listeleme uçlarından günlük senkronlanır. Bunun dört sonucu vardır.

• Sağlayıcı yeni bir model yayınladığında listede "yeni" rozetiyle görünür ve güncelleme beklemeniz gerekmez.
• Tier otomatik türetilir ve flagship, standard ya da light olur.
• Katalogdan çıkan bir model silinmez, pasif işaretlenir. Böylece o modele referans veren mevcut agent tanımlarınız bozulmaz.
• Modelin görüntü desteği olup olmadığı da kataloğa işlenir ve görsel okuma bunu kullanır (Dosyalar). Sağlayıcı bir görseli kabul etmezse o model 7 gün boyunca görsel almaz, sürenin sonunda kendiliğinden yeniden denenir. Geçici bir hata modelin görüntü desteğini kalıcı olarak kapatmaz.

#Hangi modeller açılır: anahtarınız belirler

Sağlayıcının listelediği her model, sizin anahtarınızla çalışacağı anlamına gelmiyor. Bu yüzden Orbi bir anahtar eklediğinizde o sağlayıcının tüm modellerini tek tek gerçekten çağırarak dener. Anahtarın çağıramadığı modeller seçicilerden gizlenmez: soluk ve seçilemez görünür, kısa bir not nedenini söyler. Böylece "modelim nereye gitti" sorusu açıkta kalmaz ve daha önce kaydedilmiş bir seçim listede görünmeye devam eder.

Gerçek bir ölçüm de var. Ücretsiz katmanda bir Gemini anahtarıyla sağlayıcı 24 model listeliyordu, bunlardan yalnızca 10'u çağrılabiliyordu.

Denemeler araç çağırmayla yapılır. Sebebi şudur. Orbi'de her agent koşusu araç kullanır, dolayısıyla "sohbette çalışan ama araç çağıramayan" bir model pratikte kullanılamaz. Listede görünen bir modelin ilk koşuda durması yerine, listeye hiç girmemesi daha yararlıdır.

Sonuçları Ayarlar → API Anahtarları → Modeller ekranından görebilirsiniz ve her anahtarın yanında kaç modelin kullanılabildiği yazar. Liste günlük olarak, ayrıca "Bağlantıyı test et" ve "Yeniden dene" dediğinizde tazelenir. Deneme arka planda çalışır ve sonuçlar model model geldikçe listeye düşer, yani pencereyi açık tutup izleyebilirsiniz. Önce en güçlü ve en yeni modeller denenir. Deneme trafiğinin kendisi sağlayıcının dakikalık hız sınırına takılırsa bu, modelin aleyhine sayılmaz. Kısa bir beklemeyle yeniden denenir ve dakikalık sınır modelin erişilebilir olduğunun kanıtı kabul edilir.

Bu deneme otomatik seçimi de besler. Hiç model seçmediyseniz sistem, hesabınızın gerçekten kullanabildiği modeller arasından seçer. Böylece kotanız olmayan bir modele düşmezsiniz.

#Model seçim önceliği

Bir çalıştırmada hangi modelin kullanılacağı şu sırayla çözülür.

mesaj/akış override  >  agent'ın modeli  >  workspace varsayılanı  >  otomatik seçim

Açık haliyle şöyle işler.

1. O sohbet mesajı veya akış için özel bir model seçtiyseniz o kullanılır.
2. Seçmediyseniz agent'ın kendi varsayılan modeli devreye girer.
3. O da yoksa workspace varsayılanı kullanılır.
4. Hiçbiri yoksa sistem uygun bir model seçer.

Görev oluşturma diyaloğunda ayrı bir model seçici yoktur. Kişiye atanan görev model çalıştırmaz, agent'a atanan görev zaten agent'ın modelini kullanır, Orchestrator'a atanan görev workspace varsayılanına düşer. Bu düzen, "genel olarak ucuz model kullan ama şu agent'a en iyisini ver" gibi bir stratejiyi tek yerden, yani agent ayarlarından kurmanızı sağlar.

#Hangi tier'ı ne zaman

Orchestrator'ı flagship, alt-agent'ları standard yapmak yaygın ve verimli bir düzendir. Planlama kalitesi tüm işi etkiler, tek tek adımlar ise daha ucuz modelle yeterince iyi çıkar.

#Araç kullanamayan modeller listede işaretlidir

Orbi işleri metin yazarak değil araç çağırarak yapar. Bazı modeller araç çağırmayı hiç desteklemez; böyle bir modelle konuşabilirsiniz ama tablo, akış ya da görev oluşturamaz.

Bu modeller listeden çıkarılmaz — sağlayıcınız onları sunuyorsa görürsünüz — ama adlarının yanında araç kullanamaz yazar. İşaret seçtikten sonra da durur, yani "neden hiçbir şey kurulmuyor" sorusunun cevabı hep görünür kalır.

Orbi seçtiğiniz modeli kendiliğinden değiştirmez. Daha güçlü bir model daha pahalıdır ve o karar sizindir; yerinize vermek, kredinizi sormadan harcamak olurdu.

#Maliyeti görmek

Dashboard kullanım ve maliyet toplamlarını gösterir. Model ve agent bazındaki token dökümü son 30 günü kapsar. Harcama rozetleri ise iki dönemi ayrı verir, bu ay ve tüm zamanlar. Tek bir görevin ne harcadığını kartın İz sekmesinden görebilirsiniz. Orada hangi agent, hangi model, kaç token ve fallback devreye girdi mi yazar.