Dünyanın en büyük teknoloji firmalarından Apple, direkt olarak iPhone’larda “LLM” çalıştırmanın yolunu bulmuş gibi görünüyor.
ChatGPT gibi sistemlerin arkasında LLM / Large Language Model ya da Türkçe karşılığıyla “Büyük Dil Modeli” yer alıyor. Örneğin ChatGPT şu an GPT-4 büyük dil modeli temelinde görev yapıyor, bu konuda Apple da önemli çalışmalar gerçekleştiriyor. Hatta gelen son bilgilere göre firma direkt olarak iPhone’larda “LLM” çalıştırmanın yolunu bulmuş durumda. Teknik detaylar elbette oldukça karışık ancak firma büyük LLM verisini direkt olarak flash bellek içinde tutmak istiyor. Yüksek sayıdaki veriye hızlı erişim için “çığır açıcı” özel teknikler geliştirdiği aktarılan şirket, bunu kod adı Ajax olarak geçen ve Apple-GPT de denilen kendi LLM altyapısı için kullanabilir ve böylece iPhone’lar internet bağlantısı olmadığı durumlarda dahi çok gelişmiş bir üretken yapay zeka deneyimi sunabilir. “Geliştirdiğimiz çığır açıcı sistem, gelişmiş LLM’lerin kaynakların sınırlı olduğu ortamlarda kullanılması ve böylece uygulanabilirliklerinin ve erişilebilirliklerinin artırılması açısından çok önemli” diyen Apple araştırmacıları, paylaştıkları belgede aynı zamanda, “Geliştirilen bu verimlilik odaklı yöntemler, yapay zeka modellerinin iPhone’un mevcut olan belleğinin iki katına kadar çalışmasına olanak tanıyor” açıklamasını da yapıyor. Şirketin LLM’leri iPhone’lar getirme konusunda geliştirdiği tekniklerinden ikisi şunlar:
Pencereleme: “Bunu bir geri dönüşüm yöntemi olarak düşünün. Yapay zeka modeli her seferinde yeni veri yüklemek yerine daha önce işlediği verilerin bir kısmını yeniden kullanıyor. Bu, sürekli bellek çağırma ihtiyacını azaltarak süreci daha hızlı ve sorunsuz hale getirir.”
Paketleme: “Bu teknik bir kitabı her seferinde bir kelime yerine daha büyük parçalar halinde okumaya benziyor. Daha verimli bir şekilde gruplandırmak verilerin flash bellekten daha hızlı okunmasını sağlar, bu da yapay zekanın dil anlama ve üretme becerisini hızlandırır.”
Apple daha önce ortaya çıktığı kadarıyla yeni yılda üretken yapay zekanın sadece çalıştırılması için tam 4,75 milyar dolar para harcayacak. Şirketin 2024’te tam 20 bin adet özel Nvidia yapay zeka işlem birimleriyle donatılmış sunucu almak istediği belirtiliyor, şu an Nvidia HGX H100 satın alan Apple’ın yeni yılda B100’lere geçeceği söyleniyor.
Mark Gurman’a göre şu an üst seviye Apple yöneticileri Craig Federighi, John Giannandrea ve Eddy Cue, büyük ekipleriyle beraber üretken yapay zeka temelli sistemler üzerinde çalışıyor, bunların mevcut servislere entegrasyonu için neler yapılabileceği üzerine kafa yoruyor. Burada akıllı mesaj cevapları, üretken yapay zeka tarafından hazırlanacak Apple Music çalma listeleri ve Pages ile Keynote içerisinde üretken yapay zeka kullanımı gibi konularda bazı planların yapıldığı gelen bilgiler arasında yer alıyor.
Bu konuda geçtiğimiz aylarda analist Jeff Pu konuşmuş ve Apple’ın büyük üretken yapay zeka adımlarını 2024’ün sonunda çıkacak iOS 18 işletim sistemiyle atacağını iddia etmişti. Firmanın 2023’te çok sayıda yapay zeka eğitimlerine özel sunucu sistemini inşa ettiğini ve 2024’te bu konudaki yatırımlarını hızlandıracağını belirten Pu, şirketin cihaz bazlı yerleşik ve bulut temelli hibrit bir üretken yapay zeka altyapısı kurmak istediğini de sözlerine eklemişti. Bu bilgiyi daha sonra Gurman da doğruladı, ancak henüz bu konuda son kararın verilmediğini aktardı.
Yeni gelen bilgilere göreyse Apple, bazı iOS 18 temelli yapay zeka özelliklerini sadece 2024’ün sonunda karşımıza çıkarılacak iPhone 16 ailesine özel bırakabilir. Bunun arkasında hibrit altyapı yer alıyor, bazı işlemcilerin direkt olarak bulut değil telefonda yapılması isteniyor. Bunun için de firmanın yüksek ihtimalle şimdiye oranla daha yüksek işlem gücüne ihtiyacı bulunuyor, bu açıdan yeni işlemciler odak noktaya alınıyor. iOS 18’i alacak birçok iPhone olacak, yapay zeka devrimi ise esasen iPhone 16’lara özel kalacak gibi görünüyor.