ABD’de bir yasal süreç kapsamında OpenAI imzalı sohbet botu ChatGPT kullanan avukat başını belaya soktu.
Üretken yapay zekâ temelli sohbet botu ChatGPT, “GPT” adı verilen bir dil modeli ile eğitiliyor ve bu dil modeli her zaman doğru sonuçlar vermiyor. Hatta sohbet botunun çok temel bazı konularda bile sık sık hata yaptığı olabiliyor, kurulan sisteme kesinlikle ama kesinlikle körü körüne inanmamak gerekiyor. Bu durumu ABD’de yaşayan bir avukat tüm dünyaya çok net şekilde gösterdi. The New York Times’ın haberine göre, Levidow, Levidow ve Oberman hukuk firmasından avukat Steven Schwartz, kısa bir süre önce yasal bir özet yazma konusunda yardım almak için OpenAI’nin sohbet robotuna başvurdu. Schwartz’ın firması, New York’taki John F. Kennedy Uluslararası Havalimanı’na yaptığı bir uçuş sırasında yaralandığını iddia eden Roberto Mata adına Kolombiyalı havayolu şirketi Avianca’ya dava açtı. Havayolu şirketi bu konuda haklı olduğunu düşünerek federal bir yargıçtan davayı reddetmesini istedi, ChatGPT işte tam olarak bu noktada sürece dahil oldu. Mata’nın avukatları, davanın neden devam etmesi gerektiğini göstermek adına 10 sayfalık bir özet hazırladı. Bu özet içerisinde aralarında “Varghese v. China Southern Airlines”, “Martinez v. Delta Airlines” ve “Miller v. United Airlines”ın da bulunduğu çok sayıda mahkeme kararına atıfta bulunuldu. Ancak bunlar gerçek değildi çünkü hepsini ChatGPT uydurmuştu. Bu konuda ChatGPT’ten yardım aldığını kabul eden ve komik şekilde kararların doğruluğu teyit etmek için yine sohbet botuna sorduğunu belirten avukat Steven Schwartz, ChatGPT’nin yanlış bilgiler verebileceğinden habersiz olduğunu, ChatGPT’yi kullandığı için büyük pişmanlık duyduğunu ve gerçekliğini kesin olarak doğrulamadan gelecekte bunu asla yapmayacağını söyledi. Davaya bakan yargıç ise Schwartz’ın eylemlerinin yarattığı daha önce benzeri görülmemiş durum nedeniyle yapılması gerekli olası yaptırımları görüşmek üzere 8 Haziran’da bir duruşma yapılmasına karar verdi.
İLGİNİZİ ÇEKEBİLİR
ChatGPT, yasal konularda ilk defa gündeme gelmiyor. Örneğin ayın başında bir adım atan Çinli yetkililer, Kuzey Çin’deki Gansu eyaletinde yaşayan bir kişiyi ChatGPT sistemini (Ülkede yasaklı durumda) kullanarak sahte haber makaleleri yazma iddiasıyla tutukladı. Bu hamlenin, Çin’in yapay zekâ hizmetleri üzerinden “yanlış bilgi” paylaşımını engellemek adına yürürlüğe aldığı kurallar kapsamındaki ilk tutuklamalardan birisi olduğu iddia ediliyor. OpenAI’ın sohbet botunu kullanarak ölümlü bir tren kazasını anlatan haber makaleleri ürettiği aktarılan kişi, Çinli yetkililere göre tamamen yanlış paylaşımlarda bulunuyor ve ürettiği birden fazla versiyon ile toplumu yanlış yönlendiriyor. Göz altına alınan Çin vatandaşı ise yaptığı savunmada, ChatGPT’yi sadece viral olan farklı haber makalelerini yeniden yazmak ve sayfa trafiği üzerinden para kazanmaya çalışmak için kullandığını belirtiyor. Buna benzer olayların sadece Çin değil, başka birçok farklı ülkede de karşımıza çıkması bekleniyor. Çünkü ChatGPT ve benzeri sistemlerin yalan içerik üretimi konusunda oluşturduğu riskler sık sık gündeme geliyor, bu alandaki endişeler artıyor.
