ChatGPT sistemini geliştiren OpenAI, “Hata Ödül Programı” başlattı. Firma bu sayede tüm güvenlik araştırmacıları sürece dahil etmek istiyor.
ChatGPT’yi geliştiren OpenAI, burada yer alan “Hata Ödül Programı” kapsamında, sistemlerinin daha güvenli hale getirilmesi için çok önemli bir adım atıyor. Program kapsamında OpenAI’ın sistemlerindeki açıkları bulunan güvenlik uzmanları, 200 ila 20 bin dolar arasında para ödülü alabilecek. Bu konuda firmadan yapılan açıklamada, “OpenAI’nin misyonu, herkese fayda sağlayan yapay zekâ sistemleri oluşturmak. Bu amaçla, yapay zekâ sistemlerimizin güvenli ve emniyetli olmasını sağlamak için araştırma ve mühendislik tarafına büyük yatırımlar yapıyoruz. Bununla birlikte, her karmaşık teknolojide olduğu gibi, güvenlik açıklarının ve kusurların ortaya çıkabileceğinin farkındayız. Şeffaflık ve iş birliğinin bu durumu ele alma konusunda çok önemli olduğuna inanıyoruz. Bu nedenle güvenlik araştırmacıları, etik hacker’lar ve teknoloji meraklılarından oluşan küresel toplulukları sistemlerimizdeki güvenlik açıklarını tespit etmemize ve düzeltmemize yardımcı olmaya davet ediyoruz.” denildi. Firma bu konuda gerçekten akılcı ve mantıklı bir yol izliyor. Çünkü teknolojik sistemler (Özellikle yapay zekâ) artık gerçekten çok kompleks yapıdalar, bu nedenle sistemi üretenler dahi farkında olmadan ancak başkalarının bulabileceği güvenlik açıkları ortaya çıkarabiliyor.
İLGİNİZİ ÇEKEBİLİR
Hata Ödül Programı kısa süre önce yaşanan gerçekten çok ciddi bir sıkıntı sonrasında ortaya çıktı. Kaçıranlar için ChatGPT geçtiğimiz ay bir süre için kullanılmaz hale geldi, tam o sırada siteyi açan kullanıcılar başka kişilerin sohbet geçmişlerini gördü. Bu sohbet geçmişlerinin detayları görülemedi ancak başlık kısımları net olarak gözler önüne serildi. Bu durum elbette oldukça tepki çekti çünkü ciddi bir gizlilik ihlali yapılmış oldu. Kişiler ChatGPT ile olan sohbetlerinin başkaları tarafından görülebileceğinin farkında. Sonuçta bu sistemlerin arkasında çalışanlar var ve onlar yapılan görüşmeleri, yapay zekanın üzerine kurulduğu “GPT” dil modelini geliştirmek adına kullanıyor. Ancak görüşmelerin ufak bir kısmının dahi olsa geliştiriciler değil normal kullanıcılar tarafından görülmesi hiç hoş karşılanmadı.
Bu konuda bir açıklama yapan geliştirici firma OpenAI’ın CEO’su Sam Altman, “ChatGPT’de açık kaynak kodlu bir kütüphanedeki hata nedeniyle önemli bir sorun yaşadık. Bu sorun için düzeltme yayınlandı. Bu sorun nedeniyle kullanıcıların küçük bir yüzdesi diğer kullanıcıların konuşma geçmişinin başlıklarını gördü. Bu konuda çok üzgünüz.” demişti. Bunun üstüne firmadan konu hakkında resmi bir açıklama daha geldi. Bu açıklamada direkt olarak şunlar aktarıldı: “Bazı kullanıcıların diğer kullanıcıların sohbet geçmişindeki başlıkları görmesine neden olan, açık kaynaklı kütüphane kaynaklı bir hatayı düzeltmek için pazartesi günü ChatGPT’yi kapattık. Bu süreçteki araştırmamız, ChatGPT Plus kullanıcılarının yüzde 1,2’sinin kişisel verilerinin başka kullanıcılara gösterilmiş olabileceğini ortaya çıkardı. Verileri başkalarına görünen kullanıcı sayısının son derece düşük olduğuna inanıyoruz ve bu durumdan etkilenmiş olabilecek kişilerle iletişime geçiyoruz. Bu konuyu çok ciddiye alıyoruz ve soruşturmaya devam ediyoruz.”
We took ChatGPT offline Monday to fix a bug in an open source library that allowed some users to see titles from other users’ chat history. Our investigation has also found that 1.2% of ChatGPT Plus users might have had personal data revealed to another user. 1/2
— OpenAI (@OpenAI) March 24, 2023
