OpenAI tarafından geliştirilen ChatGPT’ye “lütfen” ve “teşekkür ederim” demek, şirkete milyonlarca dolara mal oluyor.
OpenAI CEO’su Sam Altman, X’teki “OpenAI’ın ChatGPT’ye “lütfen” ve “teşekkür ederim” diyen insanlar yüzünden ne kadar para kaybettiğini (elektrik masrafı açısından) merak ediyorum.” paylaşımına şu cevabı verdi: “Yerinde harcanmış on milyonlarca dolar.” Milyonlarca kullanıcı, duygusu olmayan bir makine ile konuştuklarını bildikleri halde ChatGPT ve benzeri yapay zeka sistemlerine kibar davranmayı tercih ediyor. Özellikle “teşekkür ederim” veya “eyvallah” gibi son cevaplar yeni bir girdi döngüsü yarattığından şirketlerin sunucu sistemlerine güzel ancak gereksiz yükler bindiriyor. Sam Altman geçtiğimiz ay “Kapasite sıkıntısı farklı sorunlara neden olabilir.” uyarısında bulunmuştu. Kullanıcı sayısı sürekli artan OpenAI, açık olarak yüksek talebe GPU yetiştiremiyor. Bu konuda yaptığı son açıklamada durumu şimdilik kontrol altına aldıklarını belirten, ancak yeni hizmetlerin ve özelliklerin gecikebileceğini ifade eden Altman, kapasite sorunları nedeniyle bazı problemlerin ortaya çıkabileceğini ve servislerin normalden daha yavaş çalışmaya başlayabileceğini de söylemişti. “İşleri hızlandırmak için elimizden geldiğince hızlı çalışıyoruz.” diyen Altman, sunucu sistemlerinde Nvidia’dan aldığı özel GPU’ları kullanıyor. Meta, X, Microsoft, Amazon ve Google gibi teknoloji devler, de Nvidia’dan GPU aldığı için sunucu sistemlerini istediği seviyede büyütemeyen OpenAI, son aylarda sık sık yoğun kullanıcı talebi karşısında “GPU’larımız eriyor/yanıyor” ifadesini kullanıyor.
OpenAI, geçtiğimiz hafta “akıl yürütme temelli” yeni o3 ve o4-mini duyurularıyla ses getirmişti. Şirket, yeni o3 modeli için “akıl yürütme temelli en güçlü modelimiz” ifadesini kullanmıştı. o4-mini içinse “boyutuna ve maliyetine göre dikkate değer bir performans sunuyor” açıklaması yapılmıştı. Akıl yürütme özellikli yapay zeka modelleri sadece veri öğrenmekle kalmıyor, aynı zamanda mantıksal çıkarımlar yapabiliyor, sonuçlar üretebiliyor ve karmaşık problemlerin altından rahatlıkla kalkabiliyor. Akıl yürütme sürecine yüklenen görsellerin dahil edildiği de belirtilen o3 ve o4-mini, bundan önce kötü bir detayla dikkat çekmişti.
Yapılan testlere göre yeni modeller de halüsinasyon sorunu yaşıyor. Hatta yeni modellerin bu konuda eski bazı modellerden (o1, o1-mini, o3-mini ve GPT-4o gibi) daha kötü olduğu aktarılıyor. Yapay zeka dünyasında halüsinasyon sorunu, bir yapay zeka modelinin gerçek olmayan, uydurma veya hatalı bilgiler üretmesi durumu olarak tanımlanıyor. Halüsinasyon durumunun yeni modellerde neden daha yüksek olduğunu henüz tespit edemediği belirtilen OpenAI, bu durumu olabildiğince azaltmak istiyor. Çünkü hatalı bilgiler ve özellikle uydurma içerikler can sıkıcı sonuçlar doğurabiliyor.