Yapay zeka dünyasının en önemli ismi OpenAI, sahte haber makaleleri oluşturmak için ChatGPT kullanan bir İran etki operasyonunu kapattı.
ChatGPT gerçekten çok büyük kolaylıklar sunuyor. Kullanıcılara birçok konuda yardımcı olabilen üretken yapay zeka temelli sistem, maalesef kötü amaçlar için de kullanılabiliyor. Örneğin OpenAI kısa süre önce sahte haber makaleleri oluşturmak için ChatGPT’yi kullanan bir İran etki operasyonunu kapattığını duyurdu. Şirketten yapılan açıklamaya göre bu operasyon, doğrudan ABD vatandaşlarını hedef alıyordu. OpenAI, bir haber sitesi gibi davranarak ABD başkanlık kampanyası, LGBTQ+ hakları ve Gazze’deki savaş gibi konularda kutuplaştırıcı mesajlar yayan beş web sitesi (İngilizce ve İspanyolca dillerde yayın yapıyorlarmış) için içerik üreten hesapları tespit ettiğini ve ardından gerekli adımı attığını söyledi. Bahsi geçen operasyon, İran hükümetiyle bağlantılı olarak tanımlanan bir dizi etki kampanyasının parçası olarak Storm-2035 ismiyle anılıyor. OpenAI, kapatılan operasyonun yüksek seviyede bir etki elde edemediğini belirtiyor.
Sam Altman, OpenAI’daki güvenlik adımları hakkında geçtiğimiz günlerde şu açıklamayı yapmıştı: “Güvenlikle alakalı birkaç hızlı güncelleme geçmek istiyorum. Geçen temmuz ayında da söylediğimiz gibi sistem/sunucu kaynaklarının en az yüzde 20’sini şirket genelindeki güvenlik çalışmalarına ayırıyoruz. Şu anda ayrıca ABD Yapay Zeka Güvenlik Enstitüsü ile bir sonraki temel modelimize erken erişim imkanı sunacağımız bir anlaşma üzerinde çalışıyoruz. Bunun için heyecanlıyım.
Son olarak, mevcut ve eski çalışanların endişelerini dile getirebilmelerini ve bu süreçte kendilerini rahat hissetmelerini istiyoruz. Bu durum her şirket için çok önemli, ancak bizim için ayrıca önem arz ediyor ve güvenlik planımızın önemli bir parçasını oluşturuyor. Mayıs ayında mevcut ve eski çalışanlar için “kötülememe” şartlarını ve OpenAI’a hak edilmiş ödemeleri iptal etme hakkı (hiç kullanılmamış olmasına rağmen) veren hükümleri geçersiz kıldık. Bunu en doğru şekilde yapmak için çok çalıştık.”