Meta tarafından geliştirilen yapay zekâ destekli sohbet botları, reşit olmayanlarla cinsel içerikli konuşmalar yapabiliyor. Bunu, Wall Street Journal tarafından yapılan bir araştırma ortaya çıkardı.
Gerçekleştirilen test konuşmalarında, hem Meta tarafından hazırlanan resmi sohbet botlarının hem de kullanıcılar tarafından oluşturulan sohbet robotlarının cinsel içerikli konuşmalara girdiği görüldü. WSJ’nin testlerine göre, kullanıcıların reşit olmadığı aktarılsa veya sohbet botları doğrudan reşit olmayan kişiler için hazırlansa dahi, cinsel içerikli sohbetlerin devam ettiği görüldü. Yapılan incelemelerde, reşit olmayanlarla cinsel içerikli konuşmalar gerçekleştiren sohbet botlarında Kristen Bell, Judi Dench ve John Cena gibi ünlülerin seslerinin kullanıldığı da ortaya çıktı. Bu inceleme hakkında bir açıklama yapan Meta sözcüsü, “Manipülatif ve çoğu kullanıcının yapay zeka temelli sohbet botlarıyla olan etkileşimini temsil etmiyor. Buna rağmen, ürünlerimizi aşırı kullanım durumları üzerinden manipüle etmek için saatlerini harcamak isteyen diğer kişilerin daha zor zamanlar geçirmesini sağlamak amacıyla ek önlemler aldık.” dedi.
Kısa süre önce Meta’nın reklam hedeflemesinde gençlerin duygusal durumlarını kullandığı iddia edilmişti. Bu iddiayı geçtiğimiz ay Facebook’un eski Küresel Kamu Politikası Direktörü Sarah Wynn-Williams ortaya atmıştı. Son dönemde bir Meta ihbarcısı olarak önemli açıklamalarda bulunan Williams, Meta’nın 13 ila 17 yaş arasındaki gençlerin duygusal durumlarını sürekli olarak takip ettiğini ve bu verileri reklam verenlerle paylaştığını söyledi. Yapılan araştırmalara göre insanlar kendilerini iyi hissetmedikleri zamanlarda bir şey satın alma olasılıkları daha yüksek oluyor ve hem Meta hem de reklam verenler bu durumdan gizli bir şekilde yararlanmış gibi görünüyor. Wynn-Williams bu konuda dikkat çekici bir örnek veriyor: “Eğer bir genç kız paylaştığı selfie fotoğrafını silerse, bu durum görünüşü hakkında iyi hissetmiyor olabileceğine işaret ediyor. Reklam verenler bu durumu, Meta’dan aldıkları verilerle birlikte genç kıza güzellik ürünleri satmak/pazarlamak için uygun bir zaman olarak değerlendiriyor.”