İnternet devi Google, rezil olduğu yapay zeka sonuçlarını düzelteceğini belirtti ancak sistem halen pizza için yapıştırıcı öneriyor.
Google, üretken yapay zekayı direkt olarak arama sonuçlarına getirmek istiyor ve bunun için uzun süredir “Search Generative Experience (SGE)” adı altında testler yapıyordu. Bu testlerin arkasında arama terimlerine şimdi olduğu gibi site bazı sonuçlar vermek yerine, üretken yapay zeka üzerinden etkili cevaplara üretmek yer alıyor. Bu altyapı, kişilere aradıkları konular hakkında ayrıntılı cevaplar üretiyor ve burada internet sitelerinde yayınlananlar yanında, özel olarak eğitilen büyük dil modelinden yardım alınıyor. İnternet sitelerinden aldığı bilgilere kaynak ekleyen sistem, kişilere olası devam sorularını dahi kendisi üretiyor. Peki bu sistem tam olarak nasıl bir performans veriyor? Sistemin ürettiği cevaplar her zaman iyi değil ve bazen gerçekten “inanılmaz kötü” sonuçlar ortaya çıkabiliyor. Örneğin sistem geçtiğimiz haftalarda yapılan “Peynir pizzaya yapışmıyor” aramasına cevap olarak tam 11 yıllık bir saçma sapan Reddit paylaşımından aldığı, “Onun için kimyasal yapıştırıcı kullan” önerisini vermişti.
İLGİNİZİ ÇEKEBİLİR
X’e düştüğünde büyük yankı uyandıran bu durum, sistemin tek hatalı cevabı değildi; bir kullanıcıya günde bir adet taş yemesinin sorun olmayacağı söylendi. Aynı zamanda burada görebileceğiniz yanlış cevaplarla da ses getiren sistem, bu kötü içeriklerden manuel olarak tek tek temizleniyor. Sosyal medyaya düşen paylaşımları takip eden ve üretilen saçma sapan cevapları hemen ortadan kaldıran Google, altyapıyı halen tam olarak güvenilir hale getirememiş durumda. Çünkü sistemin halen pizza içinde yapıştırıcı kullanılmasını önerdiği ortaya çıktı. Diğer üretken yapay zeka sistemleri bunun yapılmaması gerektiği söylerken, Google halen doğruyu öğrenememiş durumda.
Google bu konuda daha önce yaptığı açıklama kapsamında hatalarını kabul etmiş ve sistemi daha iyi hale getireceğinin sözünü vermişti. Ortaya çıkan birçok ekran görüntüsünün sahte olduğunu belirten Google, sonuçları iyileştirmek için çeşitli önlemler devreye aldığını söylüyor. Bunlar arasında “saçma sapan” sorgular için daha iyi tespit mekanizmaları, sonuçlara mizah içeriğinin dahil edilmesinin sınırlandırılması ve yanıltıcı yanıtlarda kullanıcı tarafından oluşturulan içeriğin kullanımının kısıtlanması yer alıyor. Daha yüksek doğruluk ve güvenilirlik sağlamak amacıyla sağlık gibi kritik konular için gelişmiş koruma sistemleri getiren şirket, sistemi tüm olumsuz geri dönüşlere rağmen kapatmayacak ve geliştirmeye devam edecek.
