Google, rezil olduğu yapay zeka sonuçlarını düzeltecek. Firma ortaya çıkan birçok ekran görüntüsünün sahte olduğunu belirtiyor.
Google, üretken yapay zekayı direkt olarak arama sonuçlarına getirmek istiyor ve bunun için uzun süredir “Search Generative Experience (SGE)” adı altında testler yapıyor. Bu testlerin arkasında arama terimlerine şimdi olduğu gibi site bazı sonuçlar vermek yerine, üretken yapay zeka üzerinden etkili cevaplara üretmek yer alıyor. Bu faydalı altyapı, kişilere aradıkları konular hakkında ayrıntılı cevaplar üretiyor ve burada internet sitelerinde yayınlananlar yanında özel eğitilen büyük dil modelinden yardım alınıyor. İnternet sitelerinden aldığı bilgilere kaynak ekleyen sistem, kişilere olası devam sorularını dahi kendisi üretiyor. Peki bu sistem tam olarak nasıl bir performans veriyor? Sistemin ürettiği cevaplar her zaman iyi değil ve bazen gerçekten “inanılmaz kötü” sonuçlar ortaya çıkabiliyor. Örneğin sistem geçtiğimiz hafta yapılan “Peynir pizzaya yapışmıyor” aramasına cevap olarak tam 11 yıllık bir saçma sapan Reddit paylaşımından aldığı, “Onun için kimyasal yapıştırıcı kullan” önerisini vermişti.
İLGİNİZİ ÇEKEBİLİR
X’e düşünce patlayan bu durum sistemin tek hatalı cevabı da değildi, bir kullanıcıya günde bir adet taş yemesinin sorun olmayacağı söylendi. Aynı zamanda burada görebileceğiniz inanılmaz kötü / yanlış cevaplarla da ses getiren sistem, şu an bu kötü içeriklerden manuel olarak tek tek temizleniyor. Sosyal medyaya düşen paylaşımları takip eden ve üretilen saçma sapan cevapları hemen ortadan kaldıran Google, yaptığı açıklama kapsamında hatalarını kabul ediyor ve sistemi daha iyi hale getireceğinin sözünü veriyor. Ortaya çıkan birçok ekran görüntüsünün sahte olduğunu belirten Google, sonuçları iyileştirmek için şimdiden çeşitli önlemler devreye aldığını söylüyor.
Bunlar arasında “saçma sapan” sorgular için daha iyi tespit mekanizmaları, sonuçlara mizah içeriğinin dahil edilmesinin sınırlandırılması ve yanıltıcı yanıtlarda kullanıcı tarafından oluşturulan içeriğin kullanımının kısıtlanması yer alıyor. Daha yüksek doğruluk ve güvenilirlik sağlamak amacıyla sağlık gibi kritik konular için gelişmiş koruma sistemleri getiren şirket, sistemi tüm olumsuz geri dönüşlere rağmen kapatmayacak ve geliştirmeye devam edecek.
