ChatGPT’yi ve fazlasını geliştiren OpenAI için Jan Leike tarafından söylendi: “Güvenlik kültürü geri planda kaldı.”
Önemli bir OpenAI araştırmacısı olan Jan Leike, geçtiğimiz hafta şirketten ayrılma kararı aldı. İstifa kararı kapsamında bir açıklamada bulunan Leike, kendi X hesabı üzerinden eski şirketi için, “Güvenlik kültürü ve süreçleri dikkat çekici yeni ürünler karşısında geri planda kaldı” dedi yani açık bir eleştiride bulundu. Bu açıklama, OpenAI’ın uzun vadeli yapay zeka risklerini ele almaya adanmış “Superalignment” ekibini dağıtmasının üstüne geldi. Artık daha çok insanları etkileyen ürünlere odaklanan ve yapay zekanın olası risklerini geri plana itmeye başlamış gibi görünen OpenAI, şu an aktif olarak bir sonraki seviye olan yapay genel zeka (AGI) üzerinde de çalışıyor, o seviyenin mutlaka ama mutlaka çok güçlü koruma sistemleriyle devreye alınması gerekiyor. Bu konuda Jan Leike, “OpenAI, güvenlik öncelikli bir AGI şirketi haline gelmelidir” diyor. Geçtiğimiz günlerde de OpenAI kurucu ortağı ve baş bilim insanı Ilya Sutskever şirketten ayrılmıştı. Bu konuda OpenAI CEO’su Sam Altman, “Ilya ve OpenAI yollarını ayırıyor. Bu benim için çok üzücü çünkü Ilya çağımızın en büyük bilim insanlarından birisi, alanımızın yol gösterici ışığı ve sevgili bir dost.” yazdı. Yerini Jakub Pachocki’nin alacağı Ilya Sutskever, Sam Altman’ın CEO’luk görevinden alındığı dönemde ses getiren kilit isimler arasında yer almıştı.
Bu şaşırtan karar hakkında yapılan açıklamada, “Yönetim kurulu artık bize karşı dürüst davranmayan Altman’a güvenmiyor. Sam’in OpenAI’ın kuruluşuna ve büyümesine yaptığı katkılar için minnettarız ancak artık yeni bir liderin gerekli olduğuna inanıyoruz.” denilmişti. Brockman tarafından yapılan paylaşım ile öğrendiğimiz kadarıyla şirketin kurucu ortağı Ilya Sutskever, Sam Altman’ı öğlen saatlerinde bir toplantıya davet etmişti ve bu toplantıya Brockman hariç tüm yönetim kurulu katılmıştı. Altman kovulduğunu ve OpenAI’ın bunu “çok yakında” açıklayacağını o toplantıda öğrenmişti. Daha sonra çok sayıda farklı adım atıldı ve Sam Altman tekrardan şirketin başına geçirildi.