Mistral Large 4 açık ağırlıklarını dağıtmak: lisans, bellek, araçlar ve yönetilen ajanların sınırları

1. 29 Ekim ağırlık yayınını önceki önizlemeden ayırın

Mistral, 6 Ekim’deki herkese açık önizlemenin ardından Large 4’ün iyileştirilmiş ağırlıklarını 29 Ekim’de yayımladı. Duyuru, ek pekiştirmeli öğrenme ve değişen akıl yürütme davranışını anlatıyor. Bunlar farklı yayın aşamaları: daha önce önizleme API’sine erişilebilmesi, aynı ağırlık sürümünün indirilebildiği anlamına gelmez. Yayın tarihini, kaynak erişim zamanını ve değerlendirdiğiniz gerçek ürünü ayrı kaydedin.

Güncel API model kartı, barındırılan modeli hâlâ Public Preview olarak işaretliyor. Ağırlıkları yayımlamak bütün barındırılan hizmetleri kendiliğinden genel kullanıma açmaz veya hizmet sürekliliği taahhüdü oluşturmaz. Değişen API takma adı, modelin ilk yayın tarihi ve indirdiğiniz belirli sürüm de farklı nesnelerdir. Yararlı bir envanter, tek tarihi hepsinin yerine kullanmak yerine her birini saklar.

Mühendislik sorumuz, kurumun modeli çalıştırabilmesiyle nelerin mümkün olduğu ve neleri kendisinin işletmesi gerektiği. Aşağıda belgelenmiş yetenekleri önerdiğimiz tasarım ve test ölçütlerinden ayırıyoruz. Ağırlıkları indirmedik, hızlandırıcı kiralamadık, ücretli model çağırmadık veya sürümü üretim işinde ölçmedik. Sağlayıcının kıyaslama iddiaları, bizim kabul sonuçlarımız değildir.

Bu bölümün kaynakları: Mistral: iyileştirilmiş Large 4 ağırlıklarının yayımlanması, 29 Ekim · Mistral API model kartı ve önizleme durumu

2. Dağıtım biçimini seçmeden önce lisansın kendisini okuyun

Yayın, değiştirilmiş MIT lisansı olan Mistral Ecosystem Open-Weight License kullanıyor. Koşullara bağlı geniş kullanım, değiştirme ve dağıtım hakları veriyor. Telif ve izin bildirimlerinin korunması da metnin parçası. Buna yalnızca MIT veya sınırsız açık kaynak demek, ekibin ürününü nasıl sunacağına karar verirken ihtiyaç duyduğu bilgiyi çıkarır.

Ayırt edici koşul, Model-as-a-Service işi yürüten lisans sahibi veya bağlı kuruluşlarıyla ilgilidir. Metin, bu durumda ticari kullanım öncesinde ayrı ticari lisans ister. Tanım, üçüncü tarafın girdiler, parametreler veya eğitim verileri üzerinde anlamlı denetim kurduğu çıkarım veya son eğitim erişimini kapsar. Ürünün pazarlama tanımı tek başına bu koşulu çözmez.

Tanım; model yetenekleri yalnızca belirli özelliklere ya da ajan yürütme düzeneklerine gömülü son kullanıcı ürünlerini ve başkalarının barındırdığı modellere salt istek aktarmayı kapsam dışında bırakır. Ayrı hüküm, modeli üçüncü taraflara sunmayan kurum içi kullanımı ve resmi Mistral ürünleri üzerinden erişilen kullanımı bu koşuldan hariç tutar. Bu ayrıntılar ana kısıtlama kadar önemlidir.

Dağıtım incelemesinde lisans dosyasını ve tam sürümünü koruyun; modeli kimin işlettiğini, kimin eriştiğini ve neyi denetlediğini yazın. Belirsiz düzenlemeleri ticari yayından önce hak sahibiyle netleştirin. Bu, yayımlanmış sınırların okunmasıdır; belirli uygulamanın bir istisnaya girdiğine ilişkin hukuki karar değildir.

Bu bölümün kaynakları: Mistral Ecosystem Open-Weight lisansının tam metni

3. Bellek hesabında aktif parametreleri değil bütün ağırlıkları kullanın

Resmi kartlar toplamı yaklaşık bir trilyon parametre olarak anlatıyor; API kartı 1,05T belirtiyor. Ağırlık kartı, token başına 49 milyar aktif parametreyi, gömme ve çıkış katmanları dâhil edildiğinde 52 milyardan ayırıyor. Bu bir uzman karışımı modeli: aktif sayı hesaplama yolunu tanımlar; bütün hizmetin bellekte yalnızca o kadar parametre tutacağına dair söz vermez.

İlk şeffaf tahmin için toplam parametreyi ağırlık başına ideal baytla çarpın. Tablo bilinçli olarak yuvarlak 1T, ondalık birimler ve sıfır ek yük kullanıyor. Bu yalnızca aritmetik. Asgari hızlandırıcı sayısını belirlemez, her nicemlenmiş sürümün desteklendiğini kanıtlamaz veya elinizdeki donanımın iş hacmini tahmin etmez.

Gerçek kapasite; nicemleme ölçekleri ve üst verileri, nicemlenmeyen parçalar, çalışma zamanı tamponları, iletişim alanı, kopyalar ve dikkat durumunu içerir. Resmi kart ayrıca Blackwell odaklı bir NVFP4 sürümüne yönlendiriyor. Bu belirli bir ürün ve donanım yoludur; her dört bit dönüşümünün kaliteyi koruduğunu veya her cihazda çalıştığını göstermez. Gerçekten kullanacağınız biçimi değerlendirin.

Bu bölümün kaynakları: Resmi Mistral ağırlık kartı: mimari, akıl yürütme ve sunum · Mistral API model kartı ve önizleme durumu

4. 1M bağlam ve eşzamanlılık farklı kapasite sorularıdır

Belgelenmiş 1M token bağlam penceresi bir model sınırıdır; her sunum yapılandırmasının bu uzunluğu yararlı eşzamanlılıkla işleyeceği iddiası değildir. Tek kısa istekle çok sayıda uzun istek sistemden farklı şeyler ister. Kapasite planı gerçek istem dağılımını, çıkış bütçesini, aynı anda çalışan işleri ve kabul edilebilir kuyruk gecikmesini belirlemelidir.

Ölçümlerde istem hazırlama, ön doldurma, ilk token gecikmesi, üretim ve araç beklemesini ayırın. Depo araştırması bekleyen kullanıcı bütün yolu deneyimler. Ön doldurma sonrasında ölçülen çekici üretim hızı, büyük belgenin ne zaman yanıt vermeye başlayacağını veya yoğun hizmette ikinci isteğin durumunu anlatmaz.

Resmi sunum notları bellek yetmezse bağlamı veya eşzamanlılığı azaltmayı öneriyor. Bizim önerdiğimiz test, artan yük altında kısa, tipik ve uzun girdilerden oluşan bir matristir. Belleği, gecikme yüzdeliklerini, hataları ve görev kalitesini kaydedin. Her şeyi kabul edip yeniden denemeye güvenmek yerine kaynak tükenmeden önce kuyruk veya ret davranışını tanımlayın.

Bağlam budama da ürün kararıdır. Görevin ihtiyaç duyduğu talimatları, ilgili kanıtları ve önceki araç sonuçlarını koruyup budama sonrasını karşılaştırın. Daha büyük bağlam kapsamı artırabilir; maliyeti ve ilgisiz ya da kötü niyetli malzemeyi de artırabilir. Azami uzunluk veya önbellek isabeti, yanıtın doğru kanıtı kullandığını garanti etmez.

Bu bölümün kaynakları: Resmi Mistral ağırlık kartı: mimari, akıl yürütme ve sunum

5. Fonksiyon çağrısı bir eylem önerisidir; iş işleminin sonucu değildir

Mistral, fonksiyon çağırmayı ve yapılandırılmış çıktıları belgeliyor. Sunum örneklerinde araç çağrısı ayrıştırıcısıyla akıl yürütme ayrıştırıcısı farklı. İlki fonksiyon adını, bağımsız değişkenleri ve kimlikleri korumalı; ikincisi düşünceyle kullanıcıya gösterilen içeriği doğru kanallarda tutmalı. Tanıdık istek biçimini kabul etmek bu iki yolun doğru olduğunu göstermez.

Zararsız ve salt okunur araç örneğiyle başlayın. Geçerli çağrı ayrıştırılıyor mu, bozuk parametre görünür hata veriyor mu, sonuç doğru çağrıyla eşleşiyor mu ve model araç hatasından sonra devam edebiliyor mu, kontrol edin. Uygulamanız izin veriyorsa paralel veya tekrarlanan çağrıları da sınayın. İstemler ve sonuçlar gizli veri içerebildiğinden ham tanılama kayıtlarının erişimini sınırlayın.

Uygulama parametreleri doğrulamalı, güncel kullanıcı ve kiracıyı belirlemeli, yetkiyi kontrol edip işlemi yürütmeli ve açık sonuç döndürmelidir. Modelin ürettiği hesap kimliği kiracılar arası erişime yetki vermemeli. Üretilmiş bir başarı cümlesi veritabanı yazımının, ödemenin veya dağıtımın gerçekleştiğini kanıtlamaz.

Geri döndürülemez işlemi açmadan önce gereken onayı ve bağımsız sonucu tanımlayın. Araç adları ve JSON şemaları arayüz sözleşmeleridir; yetkilendirme değildir. Bunlar entegrasyon gereksinimlerimiz, modelin otomatik sağladığını iddia ettiğimiz özellikler değil. Salt okuma, değişiklik önizlemesi ve nihai işlem ayrı durumlar ve kayıtlar gerektirir.

Bu bölümün kaynakları: Resmi Mistral ağırlık kartı: mimari, akıl yürütme ve sunum · Mistral API model kartı ve önizleme durumu

6. Sonuçları karşılaştırmadan önce ağırlık sürümünü ve düşünme düzeyini sabitleyin

İyileştirilmiş model low, medium ve high düzeylerini belgeliyor; varsayılan high, eski none düzeyinin yerini low alıyor. Model etiketi değişmedi diye gecikmenin, token tüketiminin veya davranışın eşdeğer olduğunu varsaymayın. Desteklenen düzeyi ağırlık sürümü, tokenleştirici, şablon, çıkarım motoru sürümü ve ayrıştırıcı yapılandırmasıyla birlikte açıkça kaydedin.

Birden çok değişkeni birlikte değiştirmeden önce sabit değerlendirme kümesi ve ortak kabul kuralları belirleyin. Sıradan düzenlemeleri, belirsiz istekleri, uzun kanıtları ve araç hatalarını karşılaştırın. Başarılı denemenin ucuzlaması yararlı olabilir; ancak tekrar tekrar onarım isteyen hızlı deneme toplamda daha fazla kaynak tüketebilir. Model seçimi bütün iş akışına aittir.

Yükseltmeyi test ederken önceki çalışan ürünü erişilebilir tutun. Gerilemeyi yeniden üretebilmek için her sonucun yapılandırmasını saklayın. Sağlayıcının belirli kıyaslamada bildirdiği artış araştırma gerekçesidir; belirli dil, depo veya kurum politikasının aynı oranda iyileştiğini varsayma izni değildir. Duyuru kıyaslamalarını yeniden üretmedik.

Bu bölümün kaynakları: Mistral: iyileştirilmiş Large 4 ağırlıklarının yayımlanması, 29 Ekim · Resmi Mistral ağırlık kartı: mimari, akıl yürütme ve sunum

7. Gemini API CLI, istemci durumuyla sunucu depolamasının farkını gösteriyor

Google, gemini-api beta istemcisini 27 Ekim’de yayımladı. Shell üzerinden API çağırır, etkileşimli Gemini CLI’dan farklıdır ve başka bir kodlama ajanının içinde kullanılabilir. Belgeleri açık etkileşim kimliklerini, arka plan işlerini, yapılandırılmış çıktıyı ve diske yazılan medya dosyalarını anlatır. Bunlar entegrasyon tercihleridir; yürütülebilir dosyayı tam kodlama ajanı çalışma zamanına dönüştürmez.

CLI, komutlar gizli yerel iş akışı durumu tutmadığı için kendisini durumsuz olarak tanımlar. Önceki etkileşim kimliği, yüklenmiş dosya URI’si veya arka plan iş kimliği devamı açık hâle getirir. Çağıran taraf bu kimlikleri yine saklamalı ve süreç yeniden başlayınca işi kimin devralacağını belirlemelidir. Dosya yolu ikili içeriği ajan bağlamından uzak tutar; uzaktaki isteğin bu içeriği hiç taşımadığı anlamına gelmez.

Google ayrıca 26 Ekim’den itibaren yeni ücretli projelerde Generate Content varsayılan depolamasını değiştirdi. Önceki projeler kendi ayarlarını korur. İstek düzeyindeki store, proje varsayılanının önüne geçer; Interactions depolaması sunucu geçmişini destekler. Dolayısıyla durumsuz istemci ve sunucuda kayıtlı etkileşim birlikte bulunabilir. Tarihsel bir varsayılanı kopyalamak yerine güncel günlük politikasını ve gerçek projeyi inceleyin.

Beta rehberi, küçük sürümler uyumluluğu bozabildiği için sürüm sabitlemeyi öneriyor. HTTP, SSE ve yoklama destekleniyor; çift yönlü WebSocket desteklenmiyor. Gerçek zamanlı ihtiyaç için belgelenmiş ayrı arayüzü kullanın. Burada CLI komutu veya API örneği çalıştırmadık; karşılaştırma durum sahipliği ve taşıma sınırlarıyla ilgili, her Gemini özelliğinin yeni çıktığı iddiasıyla değil.

Bu bölümün kaynakları: Google: Gemini API sürüm notları · Google: Gemini API CLI durumu, arka plan işleri ve sınırları · Google: Gemini API günlükleri, depolama ve saklama süresi

8. Kendi çıkarımınızla satın alacağınız yönetilen katmanı karşılaştırın

Güncel OpenAI Agents API belgeleri yönetilen Codex yürütme düzeneğini anlatıyor: OpenAI oturumları, orkestrasyonu, bağlam sıkıştırmasını ve kurtarmayı yönetirken uygulama araçları sağlar ve yürütme ortamını seçer. Bu, mevcut belgelenmiş hizmetle karşılaştırmadır; listedeki her özelliğin 29 Ekim’de duyurulduğu iddiası değildir.

Bu sorumluluk dağılımı, ağırlıkları uyumlu bir uç noktadan sunmaktan farklıdır. Kendi uygulamanızda SDK çalıştırmakla da aynı değildir. Mimari incelemede model çıkarımını, ajan döngüsünü, işlem ortamını ve iş entegrasyonunu ayrı satırlarda tutun. Yürütme ortamını kendiniz barındırmanız yönetilen düzeneği veya bütün durumunu otomatik olarak sunucularınıza taşımaz.

Oturum rehberi asenkron turları anlatır; boşta oturumun başarı kanıtı olmadığını, tamamlanan turun da her aracın başarılı olduğunu göstermediğini belirtir. Aynı ayrımı kendi ajanınıza uygulayın. Kullanıcıya bitti demeden önce ilerlemeyi saklayın, gerçek sonucu ve dosyaları inceleyin. Taşıma olayı yararlı kanıttır; ürünün yine bir kabul kuralına ihtiyacı vardır.

Bu bölümün kaynakları: OpenAI: yönetilen Agents API'ye genel bakış · OpenAI: oturumlar, asenkron turlar ve kurtarma

9. Görüntü girdisini uçtan uca ses ürününden ayırın

Large 4 metin ve görüntü girdisiyle metin çıktısını destekler. Grafik, belge ve görsel kodlama bağlamında yararlı olabilir; yerel çok kipli yapı, ağırlıkların telefon görüşmesi, konuşma tanıma, ses üretimi ve araya girme yönetimi sağladığı anlamına gelmez. Genel pazarlama etiketini bütün ürüne genişletmek yerine gerçek girdi ve çıktı türlerini doğrulayın.

Mistral, 20 Ekim’de Voxtral 3’ü ses ailesi ve sesli ajan hattı olarak tanıttı. Değişiklik günlüğü dört ses modelini Public Preview olarak işaretliyor. Duyuru tanımayı, araç kullanan akıl yürütme modelini ve ses üretimini tek akışta anlatıyor. Bu genişletilmiş tarih aralığındaki ayrı bir mimari; Large 4 ağırlık dosyasına sessizce eklenmiş ses özelliği değil.

Sesli iş akışında tur sonunu, araya girmeyi, döküm hatalarını, araç beklemesini ve sözlü onayı ayrı test edin. Yanlış yazılmış hesap numarası kusursuz biçimli ama yanlış araç çağrısı üretebilir. Her bağlı sistem için rızayı, kayıt saklamayı ve yetkiyi değerlendirin. Sağlayıcının gecikme örnekleri kendi dağıtımınızın uçtan uca gecikmesini veya sözleşmeli hizmet düzeyini kanıtlamaz.

Bu bölümün kaynakları: Resmi Mistral ağırlık kartı: mimari, akıl yürütme ve sunum · Mistral: 20 Ekim Voxtral 3 duyurusu · Mistral: Voxtral 3 önizlemesi ve API değişiklik günlüğü

10. Kabul edilen görev maliyetini ve gerçek veri sınırını ölçün

Mistral duyuruda kodlama ve token tüketimi iyileşmeleri bildiriyor; bunlar belirli görev ve koşullara dayanıyor. Önerdiğimiz üretim paydası bağımsız kabul edilen görevlerdir: model, tekrar deneme, araç, hesaplama, işletim ve inceleme maliyetini toplayıp kabul kontrollerini geçen çıktı sayısına bölün. Daha az çıktı tokeni tek başına toplam maliyetin düştüğünü göstermez.

Açık başarı ölçütleriyle sabit, yetkilendirilmiş görev kümesi tutun: testler geçiyor, istenen davranış var, ilgisiz değişiklik yok, kaynak kanıtı yanıtı destekliyor ve yasak veri gönderilmiyor. Çözülemeyen vakaları da katın. Çalışma hatası, model reddi, geçersiz parametre ve makul görünen yanlış sonucu ayrı kaydedin. Hepsini tek hata oranına toplamak gereken onarımı gizler.

Veri egemenliği de somut sınır ister. Meta, 28 Ekim’de beş ABD üniversitesine destek duyurdu; anlatılan sağlık projeleri kurum ortamlarında çalışıyor ve hasta/klinik verileri Meta’ya açılmıyor. Bu kapsamı belirli araştırma düzenlemesidir; yeni genel API veya her Muse kullanımı için söz değildir. İşleme konumu ve sözleşme kapsamının neden kesin belirtilmesi gerektiğini gösterir.

Kendi dağıtımınızda istemleri, getirilen belgeleri, araç yanıtlarını, izleri, geçici dosyaları, yedekleri ve dış istekleri envantere alın. Ağırlığı yerelde çalıştırmak entegrasyonun kanıtı başka hizmete göndermesini önlemez. Bölgesel uç nokta bütün saklama ve sonraki aktarım sorularını cevaplamaz. Her gerçek parçayı inceleyin; tek egemenlik etiketini tam veri akış şeması saymayın.

Bu bölümün kaynakları: Mistral: iyileştirilmiş Large 4 ağırlıklarının yayımlanması, 29 Ekim · Meta: üniversite araştırmaları ve veri sınırları, 28 Ekim · OpenAI: yönetilen Agents API'ye genel bakış

11. Kademeli kabul, kalıcı kayıt ve gerçek geri dönüş yolu kullanın

Yalıtılmış, salt okunur değerlendirmeyle başlayın; aday yazılı ölçütleri karşılayana kadar üretim yolunu koruyun. Aşağıdaki liste önerdiğimiz yayın sürecidir, yaptığımız testlerin raporu değildir. Modelin ürettiği metin kadar çevresindeki entegrasyonu da bilinçli olarak denetler.

Kesilen istekte kayıtları uzlaştırmak gerekir. Uygulama aracın önerildiğini, onaylandığını, başladığını, tamamlandığını veya hata verdiğini bilmelidir. Yan etkili işlemler için kalıcı işlem kimliği ve sonuç kaydı tutun; belirsiz eylemi tekrar etmeden önce bu kayda bakın. Çıkarımı yeniden denemek, tamamlanmış iş işlemini yeniden denemek değildir; sağlayıcının mesaj tekrarını önlemesi iş düzeyindeki idempotansın yerini tutmaz.

Adayı ve mevcut sürümü aynı kabul kümesi ve yükte karşılaştırmadan trafiği artırmayın. Hataları açıklamaya yetecek maskelenmiş kanıtı tutun; sırları süresiz saklamayın. Gerileme varsa trafiği bilinen yapılandırmaya döndürün ve bitmemiş işleri uzlaştırın. Açık ağırlıkların pratik yararı başka bir dağıtım seçeneğidir; ancak lisans, kapasite, yürütme ve işletim göreve uyunca gerçekleşir.

1. Lisans sürümünü, ağırlıkları, nicemleme biçimini, tokenleştiriciyi, motoru ve ayrıştırıcıları sabitleyin.
2. Salt okunur araçları, yapılandırılmış çıktıyı, düşünce ayrımını ve açık hata iletimini doğrulayın.
3. Temsilî eşzamanlılıkta kısa/uzun girdileri, kuyruk ve bellek hatalarıyla ölçün.
4. Yeniden başlatma, iptal, kayıp yanıt ve tekrar gönderimi zararsız örneklerle sınayın.
5. Kiracı yetkilerini, onayları, dış veri hedeflerini, saklamayı ve nihai iş kayıtlarını doğrulayın.
6. Açık durdurma eşikleriyle küçük deneme yayını yapın; eski ürün ve ayarları hazır tutun, geri dönüş veya tekrar denemeden önce bekleyen işleri uzlaştırın.

Bu bölümün kaynakları: Resmi Mistral ağırlık kartı: mimari, akıl yürütme ve sunum · OpenAI: oturumlar, asenkron turlar ve kurtarma