Xiaomi’nin MiMo-V2.6 ekranını ilginç kılan şey, yalnızca eğitim sonunda bir sonuç açıklaması değil: Şirket, Pro ve Flash modellerinin eğitim sonrası pekiştirmeli öğrenme (RL) çalışmalarından seçili ölçümleri çalışmalar sürerken yayımladı. Yine de bu ekran, ön eğitimi veya Xiaomi’nin altyapısındaki bütün işleri gösteren bir pencere olarak okunmamalı; görülenler, şirketin bu iki çalışmaya ilişkin yayımladığı kayıtlardır.
1
18
Ekranda neler vardı?
Pro ve Flash için tamamlanan eğitim adımları, devam eden rollout’lar (modelin görevlerde ürettiği denemeler), işlenen token sayıları, ödül ve görev başarı eğrileri, adım süreleri, biriken maliyetler ve ara kodlama değerlendirmeleri izlenebiliyordu. Rollout üretimi eğitim güncellemeleriyle eşzamansız yürüdüğünden, iki adım sayacının aynı değeri göstermemesi olağandı.
1
18
22
Bazı yeniden başlatmalar, GPU belleğinin dolması ve veri kümesi sorunları da raporlandı. Ekranın metrik tanımları, altyapı arızası yüzünden sonuçlanamayan denemeleri olağan görev başarısızlıklarından ayırıyor. Bu görünürlük yararlı, fakat her aksaklığın yayımlandığını kanıtlamıyor.
18
23
Erken bir anlık kayıtta iki model de eğitimde 10. adımı tamamlamış, rollout tarafında ise 16. adım sürüyordu. Adım başına yaklaşık Pro’da 2,2 milyar, Flash’ta 2,6 milyar token; o ana kadar da sırasıyla yaklaşık 741 bin ve 322 bin dolar harcama bildirilmişti. Bunlar nihai maliyet veya değişmeyen günlük harcama hızı değil, o ana ait değerlerdi.
25
Her adımda ne yapıldı?
Bir güncellemede 1.568 istemin her biri için 16 deneme kullanıldı: Adım başına 25.088 olası deneme yolu. Eşzamansız düzen, denemelerin üretilmesi ve görevlerin yürütülmesiyle değerlendirme ve model güncellemelerinin örtüşmesine imkân verdi. Eğitim; kodlama, genel amaçlı ajan, görsel ve siber güvenlik görevlerini farklı görev yürütme düzenekleriyle (harness) aynı çalışma içinde birleştirdi.
4
10
19
Notlandırma yalnızca “başardı/başaramadı” kontrolünden ibaret değildi. Xiaomi’nin anlattığı yöntem, çalıştırılabilir test sonuçlarını göreve özgü ölçütler ve aynı görevdeki denemeler arasında yapılan karşılaştırmalarla birleştirerek başarılı yanıtlar arasında da kalite farkı gözetiyordu. Bu değerlendirmenin de hesaplama maliyeti vardı: Teknik rapora ilişkin bir inceleme, payını Pro’nun RL maliyetinin yaklaşık %12,7’si olarak aktarıyor.
44
47
İlk günlerde kullanılan “adım başına yaklaşık 2 milyar token” ifadesi sabit bir kota değil, ölçek tahminiydi; sonraki aktarımlar daha yüksek adım başı sayılar bildiriyor.
4
19
20
Ödül, DeepSWE ve toplam maliyet nasıl yorumlanmalı?
Eğitim ödülü, bir güncellemede kullanılan denemelere ilişkin ölçüdür; bağımsız bir yetenek testi değildir. Ekrandaki dynsam/avg@n, örneklenen her istem için başarılı denemelerin oranını hesaplayıp bu oranların ortalamasını alır. dynsam/avg@n_no_infra ise altyapı kaynaklı başarısız denemeleri dışarıda bırakır. İkisine birlikte bakmak, bozulan bir çalıştırmayı doğrudan model hatası sanmamaya yardımcı olur; ancak hiçbirisi modelin her tür görevdeki performansını ölçmez.
18
Erken kayıtta DeepSWE v1.1 puanları Pro için 62,24, Flash için 60,77 idi. Bunlar eğitim sırasındaki ara değerlendirmelerdi. Xiaomi daha sonra tamamlanan çalışmalar için yaklaşık 72,6 ve 65,7 bildirdi. Son rakamlar da Xiaomi’nin değerlendirme düzeni bağlamında okunmalı; bağımsız olarak tekrarlanmış bir halka açık sıralama sonucu gibi sunulmamalı.
25
17
45
Xiaomi’ye göre her model altı günden kısa sürede 30’ar adım tamamladı. Bildirilen RL maliyeti Pro için yaklaşık 2,62 milyon dolar, Flash için 850 bin dolar; birlikte yaklaşık 3,47 milyon dolar. Yaklaşık 750 bin deneme yolu ifadesi model başına anlaşılmalı: 25.088 olası yol × 30 adım = her çalışma için 752.640. Bu tutarlar ön eğitimi ve model geliştirmedeki diğer bütün işleri kapsamıyor.
2
4
44
45
Xiaomi daha sonra Pro ve Flash ağırlıklarının yanı sıra damıtılmış bir 9B model, teknik rapor, 7 binden fazla RL görev ortamı, uçtan uca bir RL çatısı ve birleştirilebilir küçük görev düzenekleri duyurdu.
15 Buna rağmen mevcut kaynaklar ekranın kesintisiz ve filtresiz biçimde canlı kaldığını veya eşzamanlı tüm altyapı faaliyetlerini gösterdiğini bağımsız olarak doğrulamıyor. Damıtılmış modelin yayımlanmış olması da ekranda görünmeyen damıtma işlemlerinin Pro ve Flash çalışmalarının arkasında yürütüldüğünü ya da bildirilen maliyetlere katıldığını göstermiyor.
18
15
2