Avrupa, “YZ Yasası” ile yapay zeka için sıkı deneyim hedefliyor. Bunun için bugün Avrupa Parlamentosu önemli bir adım attı.
Avrupa Parlamentosu bugün yapay zeka sistemlerini denetim altına almak adına yasal düzenleme getirecek süreci büyük bir çoğunlukla kabul ederek, dünyanın ilk kapsamlı yapay zeka yasasını sonuçlandıracak kurumlar arası müzakerelerin önünü açtı. Bu gerçekten önemli adım kapsamında yapay zeka alanında çalışma gösteren firmaları devasa değişiklikler bekliyor. Görüşmelerden elde edilenlere göre sürecin arkasındaki isimler, bu yeni nesil teknolojiyi zarar verme kapasitesine göre düzenlemek istiyor. Risk temelli bir yaklaşım izleyerek, “kabul edilemez seviyede risk oluşturan” yapay zeka uygulamalarını yasaklamak ve yüksek riskli kullanım durumları için katı kurallar uygulamak merkeze alınıyor. Konu hakkında bir açıklama yapan Avrupa Parlamentosu’nun YZ Yasası eş raportörlerinden Dragoș Tudorache, “Yapay zekayı düzenlemek için doğru zaman mı? Benim cevabım kesinlikle evet. YZ’nin sahip olduğu derin etki nedeniyle doğru zaman” dedi. Bu konuda kesinlikle geç kalmak istemeyen Avrupa ülkeleri, ChatGPT gibi sistemlerin eğitiminde kullanılan verilerin nereden geldiğini / nasıl alındığını açık olarak bilmek istiyor. “YZ” sistemlerinin denetlenmesini, güvenli (Mevcut sistemler çok fazla yalan üretebiliyor) ve şeffaf olmasını isteyen Avrupa Parlamentosu, seçimler özelinde seçmenleri etkileyebilecek veya insanların sağlığına zarar verebilecek sistemler için de çok katı sınırlamalar amaçlıyor. Mevzuat, ChatGPT gibi sistemler tarafından oluşturulan içeriğin etiketlenmesini de gerektiriyor ki bu da çok önemli ve faydalı bulunuyor. Bu hedeflerin çoğu “YZ” firmalarının hoşuna gitmiyor ancak toplum için hayati duruyor.
İLGİNİZİ ÇEKEBİLİR
YZ Yasası’nın nihai halinin bu yılın sonuna kadar kabul edilmesi beklenmiyor, bu konuda çok sayıda görüşmenin yapılacağı aktarılıyor. Masadaki yasa çalışmaları hakkında geçtiğimiz haftalarda konuşan ChatGPT’yi geliştiren OpenAI’ın CEO’su Sam Altman, University College London’da düzenlenen bir panele katıldı ve burada uygulanması kendileri için imkânsız düzenlemeler gelmesi halinde ChatGPT’nin Avrupa’dan çekilebileceğini söyledi. Yeni kurallar hakkında, “Uyabilirsek uyacağız, uyamazsak faaliyetlerimizi durduracağız… Deneyeceğiz ancak bazı teknik sınırlar var…” diyen Altman, gelecek uyarısını çok erken yapmıştı. Peki tam olarak neden? Neden Avrupa’da yapay zeka özelinde sıkı bir denetim isteniyor?
“YZ” ssitemlerinin faydaları kadar “yarattığı” ve “yaratıcı” çok sayıda risk bulunuyor, bunlar çok uzun zamandır dile getiriliyor. Örneğin geçtiğimiz haftalarda bir grup üst düzey yapay zeka araştırmacısı, alanda çalışmalar yapan tecrübeli mühendis ve büyük teknoloji şirketlerinin CEO’su, yapay zekanın insanlık için oluşturduğuna inandıkları varoluşsal tehdit hakkında yeni bir uyarı yayınladı. San Francisco merkezli kâr amacı gütmeyen bir kuruluş olan “Center for AI Safety” tarafından yayınlanan bu bildiri, Google ile bağlantılı DeepMind’ın CEO’su Demis Hassabis ve ChatGPT’yi geliştiren OpenAI CEO’su Sam Altman’ın yanı sıra, yapay zeka konusundaki çalışmalarıyla 2018 Turing Ödülü’nü kazanan üç yapay zeka araştırmacısından birisi olan Geoffrey Hinton ve Youshua Bengio gibi isimler tarafından imzalandı.
Burada yer alan bildiride, “Yapay zeka kaynaklı yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçeğe sahip risklerle birlikte küresel bir öncelik olmalıdır” deniyor. Bu endişe elbette ilk defa gündeme gelmiyor. Bundan önce kâr amacı gütmeyen Future of Life Institute tarafından yayınlanan ve 1.000’in üzerinde kişi tarafından imzalanan bir müzakere metni kapsamında Elon Musk ve çok sayıda yapay zekâ uzmanı ortak bir görüşte birleşmişti. Teknoloji dünyasının öne çıkan isimleri, daha önce toplum ve insanlık için potansiyel riskleri düşünerek OpenAI’ın yeni piyasaya sürdüğü GPT-4’ten daha güçlü sistemlerin geliştirilmesine altı ay kadar ara verilmesi çağrısında bulunmuştu.
