ChatGPT’yi geliştiren dünyanın en önemli yapay zeka şirketi OpenAI’ın mevcut ve eski çalışanları yapay zekanın tehlikeleri konusunda uyardı.
OpenAI ile Google DeepMind’ın mevcut ve eski birkaç çalışanı, gelişmiş yapay zekanın tehlikeleri ve yapay zeka teknolojisi üzerinde çalışan şirketlerin denetim eksikliği konusunda uyarılarda bulunan bir açık mektup paylaştı. “Bizler, öncü yapay zeka şirketlerinin mevcut / eski çalışanlarıyız ve yapay zeka teknolojisinin insanlığa eşi benzeri görülmemiş faydalar sağlama potansiyeline inanıyoruz. Aynı zamanda bu teknolojilerin yarattığı ciddi risklerin de farkındayız. Bu riskler, mevcut eşitsizliklerin daha da derinleşmesinden, manipülasyon ve yanlış bilgilendirmeye, otonom yapay zeka sistemlerinin kontrolünü kaybetmesine ve potansiyel olarak insan neslinin tükenmesine kadar uzanıyor. Hükümetler ve yapay zeka uzmanları gibi, yapay zeka şirketlerinin kendileri de bu riskleri kabul ediyorlar. Biz bu risklerin bilim camiası, politikacılar ve hükümetler tarafından azaltılabileceğini umuyoruz.” ifadesinin yer aldığı mektupta, yapay zeka şirketlerinin denetimlerden kaçınmak için büyük finansal güce sahip olduğu aktarıldı. Yapay zeka şirketlerinin koruyucu önlemler ve risk seviyeleri hakkında bilgi paylaşmaktan kaçındığını ve kaçınacağını belirten çalışanlar, yapay zekanın oluşturduğu ve oluşturacağı risklere karşı çok daha ciddi adımlar atılmasını talep ediyor.
İLGİNİZİ ÇEKEBİLİR
OpenAI geçtiğimiz hafta gizli etki operasyonları ile gündeme gelmişti. Biliyorsunuz üretken yapay zeka araçları kötüye kullanılabiliyor. Kötü niyetli kişiler yapay zeka araçlarıyla dezenformasyonu hızlandırıyor ve bu herkes için büyük riskler ortaya koyuyor. Bu konunun merkezinde yer alan firmalardan OpenAI, gizli etki operasyonları ile aktif olarak mücadele ettiğini açıklıyor. Bir blog yazısı yayımlayan şirket, Rusya, Çin, İran ve İsrail ile bağlantılı bazı hesapların kamuoyunu manipüle ettiği tespit ettiklerini duyurdu.
Zararlı içerikler yayan hesapları engellediklerini belirten şirkete göre, kötü niyetli kişiler ChatGPT’yi ve diğer OpenAI araçlarını kullanarak birden fazla dilde yanıltıcı sosyal medya içerikleri oluşturmuş, yapay zeka ile sahte hesapları için isimler ile biyografiler üretmiş ve sahte görüntüler hazırlayarak milyonlarca kişiye ulaşmış. OpenAI tarafından engellenenler arasında Rusya merkezli Bad Grammar ile Doppelganger, Çin merkezli Spamouflage, İran merkezli International Union of Virtual Media (IUVM) ve İsrail merkezli Zero Zeno‘nun yer aldığı açıklanıyor.
