Meta, Llama-4’ü eğitmek için 100 binden fazla Nvidia H100 AI GPU kullanıyor

01 Kasım 2024 09:14

Facebook, Instagram ve WhatsApp’ın çatı şirketi Meta, Llama-4’ü eğitmek için 100 binden fazla Nvidia H100 AI GPU kullanıyor.

Meta CEO’su Mark Zuckerberg, son çeyrek görüşmeleri kapsamında şirketin “Llama 4” isimli yeni açık kaynak LLM yani büyük dil modeli ailesini 100 binden fazla Nvidia H100 AI GPU’ya sahip bir kümede ya da başkalarının yaptıklarına dair gündeme gelen her sistemden daha büyük bir kümede eğittiğini söyledi. Yapay zeka sistemlerine daha fazla güç sağlamak adına milyarlarca dolar sunucu yatırımı yapan şirket, Llama 4’ün 2025’in ilk çeyreği içerisinde kullanıma sunmayı hedefliyor. Bu konuda son dönemde en çok Elon Musk ses getiriyor. Eğer kaçırdıysanız Elon Musk geçtiğimiz ay xAI, X, Nvidia ve diğer bazı şirketlerin desteğiyle bir araya getirilen tam 100 bin sıvı soğutmalı Nvidia H100’ün (yapay zeka eğitimine odaklanan çok güçlü GPU sistemi) görev yapmaya başladığını duyurdu. Elon Musk’tan konuda gelen son açıklama şöyle olmuştu: “Bu hafta sonu xAI ekibi “Colossus” adını verdiğimiz 100k H100 eğitim kümemizi çevrimiçi hale getirdi. Bu sistem baştan sona 122 günde tamamlandı ve Colossus şu anda dünyadaki en güçlü yapay zeka eğitim sistemi konumunda.” 

Bu büyük sistem geçtiğimiz hafta gelen bilgiye göre önümüzdeki iki ay içinde tam 200 bin adet Nvidia H100 ev sahipliği yapmaya başlayacak. Ortaya atılan bir iddiaya göre OpenAI CEO’su Sam Altman, geçtiğimiz günlerde bazı Microsoft yöneticileriyle görüştü ve onlara xAI’ın yakında OpenAI’dan daha fazla bilgi işlem gücüne erişebileceğinden endişe duyduğunu söyledi.

Musk’ın daha önce, “Altyapı, bu yılın aralık ayına kadar her ölçütte dünyanın en güçlü yapay zekasını eğitmek için önemli bir avantaj sağlayacak” açıklamasını da yaptığı merkez, şirketin LLM yani üretken yapay zekanın merkezindeki büyük dil modellerinin eğitimi konusunda elini çok güçlendirdi. Musk bu konuda daha önce şunları da söylemişti: “100 bin adet H100 ve bir sonraki büyük sistemi kendi bünyemizde yapmaya karar vermemizin nedeni, rekabet gücümüzün diğer yapay zeka şirketlerinden daha hızlı olmamıza bağlı olması. Arayı kapatmanın tek yolu bu. Kaderimiz açık ara en hızlı olmamıza bağlıysa, arka koltukta oturan bir yolcu olmak yerine direksiyonu biz kontrol etmeliyiz.” 

Elon Musk gelişmeleri yanında bu da ilginizi çekebilir: Vivo X Flip katlanabilir telefon modeli

Paylaş