İşlemci ve ekran kartı pazarının büyük isimlerinden AMD, bugün yerel LLM çalıştırmaya odaklanan açık kaynak Gaia ile dikkat çekti.
Daha düşük gecikme ve yüksek veri/bilgi güvenliği sunduğundan, yerel LLM kullanımı sürekli olarak artıyor. Bu alanda kullanıcılara artık AMD de bir alternatif sunuyor. Bugün açık kaynak yazılım Gaia ile karşımıza çıkan AMD, ONNX TurnkeyML’nin açık kaynaklı Lemonade SDK’ini kullanan yeni Windows yazılımının, özellikle XDNA NPU ve RDNA iGPU kullanan Ryzen AI PC’lerde yüksek performans sunduğunu belirtiyor. AMD işlemcilerdeki ve grafik birimlerindeki NPU’lardan tam olarak yararlanan yazılım, çok sayıda büyük dil modeline destek veriyor ve ücretsiz olarak buradan temin edilebiliyor.
İLGİNİZİ ÇEKEBİLİR
Bundan önce LG’nin EXAONE Deep isimli güçlü yapay zeka modeli dikkat çekmişti. Spesifik olarak LG AI Research tarafından hazırlanan EXAONE Deep için sunulan amiral gemisi ana modeli 32 milyar parametreden oluşuyor. Aktarıldığı kadarıyla 32 milyarlık model, küçük boyutuna rağmen belirli testlerde GPT-4o ve DeepSeek R1 gibi daha büyük modellerle yarışır seviyede performans ortaya koyuyor. Doğrudan cihazlarda çalışması için tasarlanan 7.8 milyar ve 2.4 milyar parametreli varyantlarının performansı da yüksek olan EXAONE Deep’in 32 milyarlık versiyonu, CSAT 2025 Matematik bölümünden 94,5 ve AIME 2024’ten ise 90,0 puan almış. GPQA Diamond testinde 66,1 puan elde ettiği belirtilen model, birçok güncel rakibi gibi akıl yürütme yeteneğine sahip. Modelin 7.8 milyarlık versiyonu MATH-500’de 94,8 ve AIME 2025’te 59,6 puan alırken, 2.4 milyarlık versiyon MATH-500’de 92,3 ve AIME 2024’te 47,9 puan almış. Sadece sunucu sistemlerinde çalışması için tasarlanmayan model, önümüzdeki dönemde çok ses getirebilir.
