Üretken yapay zeka temelli ChatGPT’yi geliştiren OpenAI, önemli bir adım atıyor ve bağımsız bir güvenlik kurulu oluşturuyor.
Buradaki “bağımsız” ibaresinin arkasında, CEO Sam Altman’ın yer almadığı bir yapı yer alıyor. Yapılan açıklamaya göre OpenAI, bünyesindeki güvenlik komitesini güvenlik endişeleri nedeniyle model lansmanlarını erteleme yetkisine sahip bağımsız bir yönetim kurulu gözetim komitesine/kuruluna dönüştürüyor. Bu komitede Carnegie Mellon profesörü Zico Kolter, Quora CEO’su Adam D’Angelo, emekli ABD ordu generali Paul Nakasone ve eski Sony Genel Müdür Yardımcısı Nicole Seligman yer alıyor. Halihazırda OpenAI’ın yönetim kurulu üyesi olan bu isimler, şirketin projeleri ve operasyonlarıyla ilgili “kritik” güvenlik kararlarını denetleyecek ve gerekirse güvenli bir altyapı sağlanana kadar model çıkışlarını erteleyebilecek.
İLGİNİZİ ÇEKEBİLİR
Sam Altman, OpenAI’daki güvenlik süreçleri hakkında geçtiğimiz ay kişisel X hesabından şu açıklamayı yapmıştı: “Güvenlikle alakalı birkaç hızlı güncelleme geçmek istiyorum. Geçen temmuz ayında da söylediğimiz gibi sistem/sunucu kaynaklarının en az yüzde 20’sini şirket genelindeki güvenlik çalışmalarına ayırıyoruz. Şu anda ayrıca ABD Yapay Zeka Güvenlik Enstitüsü ile bir sonraki temel modelimize erken erişim imkanı sunacağımız bir anlaşma üzerinde çalışıyoruz. Bunun için heyecanlıyım.
Son olarak, mevcut ve eski çalışanların endişelerini dile getirebilmelerini ve bu süreçte kendilerini rahat hissetmelerini istiyoruz. Bu durum her şirket için çok önemli, ancak bizim için ayrıca önem arz ediyor ve güvenlik planımızın önemli bir parçasını oluşturuyor. Mayıs ayında mevcut ve eski çalışanlar için “kötülememe” şartlarını ve OpenAI’a hak edilmiş ödemeleri iptal etme hakkı (hiç kullanılmamış olmasına rağmen) veren hükümleri geçersiz kıldık. Bunu en doğru şekilde yapmak için çok çalıştık.”
