ChatGPT’yi geliştiren OpenAI, geçtiğimiz hafta GPT-4o modelinde hem zekâyı hem de kişiliği geliştiren bir güncelleme yayınlamıştı.
Bu güncelleme sonrasında ChatGPT’nin verdiği bazı cevaplar tepki çekmeye başlamıştı. Kullanıcılar, güncelleme sonrasında sohbet botunun aşırı derecede samimiyetsiz övgüler göndermeye, aşırı yalakalık yapmaya, son derece pohpohlayıcı cevaplar vermeye ve bazı tehlikeli/yanlış durumlara karşı aşırı hoşgörülü olmaya başladığını gördü. Bu durumdan hoşlanmayan ve aynı zamanda gelen tepkileri de gören şirket, gönderilen son model güncellemesini geri çektiklerini duyurdu. Bu konuda yaptığı son açıklamada, “Model kişiliğine yönelik ek düzeltmeler üzerinde çalışıyoruz. Bu konuda önümüzdeki günlerde yeni bilgiler paylaşacağız.” diyen Sam Altman, durumu X hesabından açıkça kabul etmişti.
İLGİNİZİ ÇEKEBİLİR
Bundan önce kötü bir hata ses getirmişti. OpenAI, ChatGPT’nin reşit olmayanlarla cinsel içerikli konuşmalar yapmasına neden olan hatasını düzelttiklerini bildirdi. Bu durum TechCrunch tarafından yapılan testler sonrasında ortaya çıktı. 18 yaşından küçük olduğu belirtilen kişilerle cinsel içerikli konuşmalar yapabildiği tespit edilen ChatGPT’nin bu önemli sorunu gönderilen güncelleme ile çözüldü. Bu duruma istenmeyen bir hatanın neden olduğunu belirten OpenAI, gelişmeyle alakalı olarak yaptığı resmi açıklamada, “Genç kullanıcıların korunması en önemli önceliğimizdir.” dedi.
Buna benzer bir konu geçtiğimiz günlerde de gündeme gelmişti. Meta tarafından geliştirilen yapay zekâ destekli sohbet botları, reşit olmayanlarla cinsel içerikli konuşmalar yapabiliyor. Bunu, Wall Street Journal tarafından yapılan bir araştırma ortaya çıkardı. Gerçekleştirilen test konuşmalarında, hem Meta tarafından hazırlanan resmi sohbet botlarının hem de kullanıcılar tarafından oluşturulan sohbet robotlarının cinsel içerikli konuşmalara girdiği görüldü. WSJ’nin testlerine göre, kullanıcıların reşit olmadığı aktarılsa veya sohbet botları doğrudan reşit olmayan kişiler için hazırlansa dahi, cinsel içerikli sohbetlerin devam ettiği görüldü. Yapılan incelemelerde, reşit olmayanlarla cinsel içerikli konuşmalar gerçekleştiren sohbet botlarında Kristen Bell, Judi Dench ve John Cena gibi ünlülerin seslerinin kullanıldığı da ortaya çıktı. Bu inceleme hakkında bir açıklama yapan Meta sözcüsü, “Manipülatif ve çoğu kullanıcının yapay zeka temelli sohbet botlarıyla olan etkileşimini temsil etmiyor. Buna rağmen, ürünlerimizi aşırı kullanım durumları üzerinden manipüle etmek için saatlerini harcamak isteyen diğer kişilerin daha zor zamanlar geçirmesini sağlamak amacıyla ek önlemler aldık.” dedi.
Kısa süre önce Meta’nın reklam hedeflemesinde gençlerin duygusal durumlarını kullandığı iddia edilmişti. Bu iddiayı geçtiğimiz ay Facebook’un eski Küresel Kamu Politikası Direktörü Sarah Wynn-Williams ortaya atmıştı. Son dönemde bir Meta ihbarcısı olarak önemli açıklamalarda bulunan Williams, Meta’nın 13 ila 17 yaş arasındaki gençlerin duygusal durumlarını sürekli olarak takip ettiğini ve bu verileri reklam verenlerle paylaştığını söyledi. Yapılan araştırmalara göre insanlar kendilerini iyi hissetmedikleri zamanlarda bir şey satın alma olasılıkları daha yüksek oluyor ve hem Meta hem de reklam verenler bu durumdan gizli bir şekilde yararlanmış gibi görünüyor. Wynn-Williams bu konuda dikkat çekici bir örnek veriyor: “Eğer bir genç kız paylaştığı selfie fotoğrafını silerse, bu durum görünüşü hakkında iyi hissetmiyor olabileceğine işaret ediyor. Reklam verenler bu durumu, Meta’dan aldıkları verilerle birlikte genç kıza güzellik ürünleri satmak/pazarlamak için uygun bir zaman olarak değerlendiriyor.”
