Resmi olarak olası adıyla GPT-5 çalışmalarına başladığını belirten OpenAI, buna ek olarak önemli bir adım attı ve güvenlik kurulu oluşturdu.
Bugün OpenAI Yönetim Kurulu, Bret Taylor, Adam D’Angelo, Nicole Seligman ve şirket CEO’su Sam Altman liderliğinde bir “Güvenlik ve Emniyet” kurulu oluşturduklarını duyurdu. Bu ekip yapılan açıklamaya göre, OpenAI projelerinin/sistemlerinin güvenliği konusunda yönetim kurulu ile birlikte çalışacak ve önemli kararlara imza atacak. Bu açıklama kapsamında firma yüksek ihtimalle GPT-5 olarak isimlendirilecek yeni LLM yani büyük dil modelini eğitmeye başladıklarını da duyurdu. Bu sistem ile şirket, en büyük hedef olan yapay genel zekaya bir adım daha yaklaşmayı hedefliyor. Yapay genel zeka, bir insanın yapabileceği herhangi bir zihinsel görevi başarıyla gerçekleştirebilecek makinenin zekası olarak özetleniyor. Güvenlik tarafı yapay genel zeka için çok büyük bir önem arz ediyor ancak OpenAI son dönemde güvenlik konusunda iyi haberler ile gündeme gelmiyor.
Eğer kaçırdıysanız önemli bir OpenAI araştırmacısı olan Jan Leike, geçtiğimiz hafta şirketten ayrılma kararı aldı. İstifa kararı kapsamında bir açıklamada bulunan Leike, kendi X hesabı üzerinden eski şirketi için, “Güvenlik kültürü ve süreçleri dikkat çekici yeni ürünler karşısında geri planda kaldı” dedi yani açık bir eleştiride bulundu. Bu açıklama, OpenAI’ın uzun vadeli yapay zeka risklerini ele almaya adanmış “Superalignment” ekibini dağıtmasının üstüne geldi.
Artık daha çok insanları etkileyen ürünlere odaklanan ve yapay zekanın olası risklerini geri plana itmeye başlamış gibi görünen OpenAI, şu an aktif olarak bir sonraki seviye olan yapay genel zeka (AGI) üzerinde de çalışıyor, o seviyenin mutlaka ama mutlaka çok güçlü koruma sistemleriyle devreye alınması gerekiyor. Bu konuda Jan Leike, “OpenAI, güvenlik öncelikli bir AGI şirketi haline gelmelidir” diyor. Bunlardan önce ise OpenAI kurucu ortağı ve baş bilim insanı Ilya Sutskever şirketten ayrılmıştı.
Bu konuda OpenAI CEO’su Sam Altman, “Ilya ve OpenAI yollarını ayırıyor. Bu benim için çok üzücü çünkü Ilya çağımızın en büyük bilim insanlarından birisi, alanımızın yol gösterici ışığı ve sevgili bir dost.” yazmıştı. Tüm bunların üstüne Gretchen Krueger’in şirketten ayrıldığı ortaya çıkmış, Krueger bu kararı X hesabı üzerinden bağımsız olarak Ilya Sutskever ve Jan Leike’den ayrı olarak aldığını açıklamıştı.
Onların endişelerine katıldığı belirten ve hatta güvenlik konusunda daha fazla endişeye sahip olduğunu belirten Krueger, OpenAI’ın güvenlik konusunu endişe verici şekilde geri plana ittiğini bir kez daha doğruladı.