Ekran kartı pazarının en büyük ismi olmayı sürdüren Nvidia, Chat with RTX ya da yeni adıyla ChatRTX sistemi için güncellemelere devam ediyor.
Nvidia tarafından geliştirilen ChatRTX ile kişiler kendi PC’lerinde LLM yani ChatGPT gibi sistemlerin arkasında yer alan büyük dil modellerini çalıştırabiliyor. Yerel yani uzaktaki sunuculara bağlı olmayan bir kullanıcı deneyimi sunan sistem, RTX 40 serisi yanında RTX 30 serisi ekran kartlarına da destek veriyor. Kullanmak için 8 GB VRAM’in yeterli olduğu altyapı, Meta’nın oldukça iyi bulunan Llama 2 LLM’ini de yerleşik olarak çalıştırabiliyor. Seçilen modele göre 50 GB ila 100 GB arasında bir yer kaplayan uygulama (İndirme yapılıyor), elbette ChatGPT ya da Google Gemini (Eski adıyla Bard) kadar gelişmiş bir deneyim sunmuyor ancak birçok farklı işlem için çevrimdışı yapıdan dolayı daha güvenli bir seçenek oluyor. Tanıtım videosunu hemen aşağıda izleyebileceğiniz ChatRTX, girilen metin dosyalarını analiz ederek cevaplar üretebiliyor ya da bağlantısı verilen YouTube videolarını analiz ederek, video hakkında sorulan sorulara hızlı şekilde cevap verebiliyor. Dikkat çekmeyi başaran ve büyük bir potansiyel ortaya koyan sisteme buradan ulaşılabiliyor, yapılan güncelleme ile sistemin Google imzalı Gemma modeline destek vermeye başladığı da aktarılıyor. ChatGLM3 ve OpenAI’ın CLIP modellerine de destek vermeye başlayan sistem, artık sesli girdi desteğini de kullanıcılara sunuyor. Hepsine ek olarak Nvidia, sesinizi kullanarak verilerde arama yapmanızı sağlayan bir yapay zeka konuşma tanıma sistemi olan Whisper’ı da sisteme entegre etmiş durumda.