İnternet devi Google, yeni çıkan bilgilere göre yapay zeka temelli arama altyapısını Safari kullanıcılarına kapatmayı düşünmüş.
iPhone’ların varsayılan arama motoru olmak adına Apple’a her yıl milyarlarca dolar ödeme yapan (sadece 2022’de 20 milyar dolar) Google, kendi servislerini/uygulamalarını daha fazla öne çıkarmak için yapay zeka temelli arama altyapısını Safari kullanıcılarına kapatmayı düşünmüş. Bu karar şirket içinde aktif olarak masaya yatırılmış ancak daha sonra bundan vazgeçilmiş. Safari kullanıcılarını Chrome’a geçirmenin zor olacağının farkına varan şirket yetkilileri, bu planı en başta Apple’a daha az para ödemek için gündeme getirmişler. Çünkü Apple ile Google arasında bir gelir paylaşım anlaşması bulunuyor. Apple, Safari’de yapılan Google aramalarından elde edilen reklam gelirlerinden pay alıyor. Google, bu ödemeyi kullanıcıları Chrome’a kaydırarak azaltmak ve bunun için yapay zeka temelli arama altyapısını kullanmak istemiş ancak böyle bir adımın faydadan çok zarara yol açacağı anlaşılmış.
Google’ın yapay zeka temelli arama altyapısı son ayarlarda çok kötü sonuçlar ortaya koydu. İnternet devi, üretken yapay zekayı direkt olarak arama sonuçlarına getirmek istiyor ve bunun için uzun süredir “Search Generative Experience (SGE)” adı altında testler yapıyordu. Bu testlerin arkasında arama terimlerine şimdi olduğu gibi site bazı sonuçlar vermek yerine, üretken yapay zeka üzerinden etkili cevaplara üretmek yer alıyor.
Bu altyapı, kişilere aradıkları konular hakkında ayrıntılı cevaplar üretiyor ve burada internet sitelerinde yayınlananlar yanında, özel olarak eğitilen büyük dil modelinden yardım alınıyor. İnternet sitelerinden aldığı bilgilere kaynak ekleyen sistem, kişilere olası devam sorularını dahi kendisi üretiyor.
Peki bu sistem tam olarak nasıl bir performans veriyor? Sistemin ürettiği cevaplar her zaman iyi değil ve bazen gerçekten “inanılmaz kötü” sonuçlar ortaya çıkabiliyor. Örneğin sistem geçtiğimiz haftalarda yapılan “Peynir pizzaya yapışmıyor” aramasına cevap olarak tam 11 yıllık bir saçma sapan Reddit paylaşımından aldığı, “Onun için kimyasal yapıştırıcı kullan” önerisini vermişti.
X’e düştüğünde büyük yankı uyandıran bu durum, sistemin tek hatalı cevabı değildi; bir kullanıcıya günde bir adet taş yemesinin sorun olmayacağı söylendi. Aynı zamanda burada görebileceğiniz yanlış cevaplarla da ses getiren sistem, bu kötü içeriklerden manuel olarak tek tek temizleniyor. Sosyal medyaya düşen paylaşımları takip eden ve üretilen saçma sapan cevapları hemen ortadan kaldıran Google, altyapıyı halen tam olarak güvenilir hale getirememiş durumda. Çünkü sistemin halen pizza içinde yapıştırıcı kullanılmasını önerdiği ortaya çıktı. Diğer üretken yapay zeka sistemleri bunun yapılmaması gerektiği söylerken, Google halen doğruyu öğrenememiş durumda.
Google bu konuda daha önce yaptığı açıklama kapsamında hatalarını kabul etmiş ve sistemi daha iyi hale getireceğinin sözünü vermişti. Ortaya çıkan birçok ekran görüntüsünün sahte olduğunu belirten Google, sonuçları iyileştirmek için çeşitli önlemler devreye aldığını söylüyor. Bunlar arasında “saçma sapan” sorgular için daha iyi tespit mekanizmaları, sonuçlara mizah içeriğinin dahil edilmesinin sınırlandırılması ve yanıltıcı yanıtlarda kullanıcı tarafından oluşturulan içeriğin kullanımının kısıtlanması yer alıyor. Daha yüksek doğruluk ve güvenilirlik sağlamak amacıyla sağlık gibi kritik konular için gelişmiş koruma sistemleri getiren şirket, sistemi tüm olumsuz geri dönüşlere rağmen kapatmayacak ve geliştirmeye devam edecek.