Kendi yapay zeka modelinizi eğitmenize olanak tanıyan Gigabyte AI TOP yazılımı Linux tarafı için resmi olarak yayınlandı.
Şirketin buradaki resmi sitesinde listelenen “AI TOP” serisi ultra dayanıklı donanımlarını odak noktaya alan “Linux” uyumlu ücretsiz Gigabyte AI TOP yazılımı, kişilerin kendi yapay zeka modellerini eğitmesine ya da mevcut modeller üzerinde değişiklikler yapmasına imkan tanıyor. 236 milyar parametreli modellere dahi destek veren yazılım, Gigabyte’ın normal Nvidia GeForce RTX 40, AMD Radeon RX 7900, Radeon Pro W7900 ve W7800 serisi ekran kartlarıyla da kullanılabiliyor. AI TOP, yapılan açıklamaya göre Hugging Face üzerinde 70’ten fazla açık kaynaklı LLM modelini desteklemek üzere kurulmuş durumda. Desteklenen modeller arasında Baichuan 2, Distill-GPT2, GLM4, Llama 2, Llama 3 ve fazlası bulunuyor. Yapay zeka modellerinin eğitimini Gigabyte AI TOP ile yerel olarak yapmak, hassas verilerin güvenli/gizli kalmasını garanti altına alıyor. Kullanıcıların aracı kullanmak için özel bir yapay zeka programlama bilmesine ise gerek bulunmuyor.
İLGİNİZİ ÇEKEBİLİR
Ekran kartı devi Nvidia da ChatRTX yazılımı ile kişilerim kendi PC’lerinde LLM yani ChatGPT gibi sistemlerin arkasında yer alan büyük dil modellerini çalıştırmasına imkan tanıyor. Yerel yani uzaktaki sunuculara bağlı olmayan bir kullanıcı deneyimi sunan sistem, RTX 40 serisi yanında RTX 30 serisi ekran kartlarına da destek veriyor. Kullanmak için 8 GB VRAM’in yeterli olduğu altyapı, Meta’nın oldukça iyi bulunan Llama 2 LLM’ini de yerleşik olarak çalıştırabiliyor.
Seçilen modele göre 50 GB ila 100 GB arasında bir yer kaplayan uygulama (İndirme yapılıyor), elbette ChatGPT ya da Google Gemini (Eski adıyla Bard) kadar gelişmiş bir deneyim sunmuyor ancak birçok farklı işlem için çevrimdışı yapıdan dolayı daha güvenli bir seçenek oluyor. Tanıtım videosunu hemen aşağıda izleyebileceğiniz ChatRTX, girilen metin dosyalarını analiz ederek cevaplar üretebiliyor ya da bağlantısı verilen YouTube videolarını analiz ederek, video hakkında sorulan sorulara hızlı şekilde cevap verebiliyor. Dikkat çekmeyi başaran ve büyük bir potansiyel ortaya koyan sisteme buradan ulaşılabiliyor.
