Yazılım devi Microsoft, CPU’da çalışabilen bir yapay zekâ modeli geliştirdi. Bu modele BitNet b1.58 2B4T adı verildi.
Yapılan açıklamaya göre BitNet, özellikle matematiksel işlemlerde daha az bit kullanarak yapay zekâ modellerinin eğitim ve çalıştırma maliyetlerini düşürmeyi hedefliyor. Standart LLM’ler 16 bit ya da 32 bit sayılarla çalışırken, BitNet 2 bit veya 1 bit “quantization” kullanıyor. Bu sayede hem bellek tüketimi hem de işlem gücü ciddi oranda azaltılıyor. Aynı zamanda enerji verimliliği de sağlayan BitNet altyapısının son üyesi, Microsoft araştırmacıları tarafından geliştirilen BitNet b1.58 2B4T oldu. Buradaki bağlantıda yer alan ve Apple’ın M2’si dahiş çok sayıda işlemcide çalışabilen, yani özel bir GPU’ya ihtiyaç duymayan BitNet b1.58 2B4T, testlere göre Meta’nın Llama 3.2 1B, Google’ın Gemma 3 1B ve Alibaba’nın Qwen 2.5 1.5B modellerini GSM8K ve PIQA gibi testlerde geride bırakıyor. 2 milyar parametreye sahip ilk BitNet olduğu belirtilen BitNet b1.58 2B4T, çalışmak için “bitnet.cpp” adı verilen özel bir framework’e ihtiyaç duyuyor.
Microsoft geçtiğimiz aylarda Phi-4 isimli yeni LLM’i ile dikkat çekmişti. Phi ailesinin yeni üyesi Phi-4, Microsoft tarafından yapılan açıklamaya göre 14 milyar parametre ile görev yapıyor. Özellikle matematik problemi çözme konusunda çok yetenekli olduğu belirtilen yeni model, GPT-4o mini, Gemini 2.0 Flash ve Claude 3.5 Haiku karşısına konumlandırılıyor. Microsoft’un kısa süre önce kullanıma sunduğu Azure AI Foundry geliştirme platformunda yer alan yeni model, yüksek kaliteli sentetik veri kümelerinin yanı sıra insanlar tarafından oluşturulan verilerle eğitilmiş.
Daha önce Meta tarafından tanıtılan LLM Llama 3.3 70B ses getirmişti. Model hakkında yapılan açıklamada şunlar aktarılmıştı: “Llama 3.3 70B, 405B modelimizin performansını sunuyor, ancak çalıştırması daha kolay ve uygun maliyetli en yeni modelimiz. Çevrimiçi optimizasyonlar da dahil olmak üzere, eğitim sonrası tekniklerdeki en son gelişmelerden yararlanan 70B, performansı düşük bir maliyetle önemli ölçüde artırarak tüm açık kaynak topluluğu için daha erişilebilir bir seçenek oluyor.”