Ekran kartı devi Nvidia tarafından özel olarak hazırlanan Llama3.1 temelli LLM, testlere göre GPT-4o ve Claude 3.5 Sonnet’i geride bırakıyor.
Nvidia, Llama-3.1-Nemotron-70B-Instruct modelini resmi olarak yayınladı. Meta tarafından hazırlanan açık kaynak Llama 3.1 70B modelini temel alan LLM (Büyük Dil Modeli), yukarıda da dediğimiz gibi yapılan testlerde GPT-4o ve Claude 3.5 Sonnet’i geride bırakıyor. Arena Hard özelinde Llama-3.1-Nemotron-70B-Instruct modeli 85 puan alırken, GPT-4o ve Sonnet 3.5 sırasıyla 79.3 ve 79.2 puan alıyor. AlpacaEval ve MT-Bench gibi diğer kıyaslamalarda da Nvidia imzalı model 57.6 ve 8.98 puanla zirvede yer alıyor. Aktarıldığı kadarıyla bu modeli yerel olarak çalıştırmak için dört adet 40 GB veya iki adet 80 GB VRAM’li GPU ve 150 GB boş disk alanı gerekiyor. Nvidia bu aralar daha çok RTX 5090 serisiyle gündemde düşmüyor. Kaçıranlar için ortaya atılan son iddiaları bir kez daha hatırlarsak, Nvidia RTX 5080 ve RTX 5090 ocak ayında, RTX 5070 ve RTX 5070 Ti şubat ayında, RTX 5060 serisi ise mart ayında satışa sunulabilir.
İLGİNİZİ ÇEKEBİLİR
Nvidia’nın CES 2025 sunumu CEO Jensen Huang tarafından 6 Ocak 2025 tarihinde yapılacak. Bu sunum kapsamında Huang’ın bir süre önceye kadar Nvidia RTX 5090 ve RTX 5080 ekran kartlarını tanıtacağı düşünülüyordu. Daha sonra yapılan bir paylaşım ise sürece çok daha geniş kullanıcı kitlesine hitap eden RTX 5070 ekran kartını dahil etmişti. Halen yüzde 100 kesin değil ancak şirket yeni seriyi de üçlü çıkışla yapacak gibi görünüyor, son sızıntılara göre RTX 5060 serisi de 2024 ilk çeyreği bitmeden gelecek gibi duruyor.
Gücünü tek bir 12VHPWR bağlantıdan alacak RTX 5070, sınırlı sayıdaki bilgiye göre 250W TBP’lik bir model ve 28 Gbps 12 GB GDDR7 bellek üzerine kuruluyor. Geçtiğimiz haftalarda RTX 5090 ekran kartı 32 GB GDDR7 512-bit bellek, 170 SM, 21.760 FP32 CUDA çekirdeği ve 600W TBP ya da TGP ile geliyor denilmişti. RTX 5080 ekran kartı ise aynı sızıntıya göre 16 GB GDDR7 256-bit bellek, 84 SM, 10.752 FP32 CUDA çekirdeği ve 400W TBP ya da TGP ile yolda bulunuyor.
Daha sonra PCIe 5.0×16 temelli kartlardan RTX 5090’a odaklanıldı, 1.700 dolar ya da üstünde satılması beklenen ekran kartının gücünü tek bir 12-2×6 güç bağlantısından alacağı açıklandı. Sadece bazı hız aşırtılmış özel sürümlerde iki adet 12-2×6 güç bağlantısının gerekebileceği söyleniyor. Tam HBR20 destekli DisplayPort 2.1a ile donatılacak üründe, 14 katmanlı bir PCB’nin kullanılacağı da verilen yeni bilgiler arasında yer alıyor.
