FBI LOG Tasarım
Ortak çalışmalar gerçekleştiren Microsoft ve OpenAI, bugün “Hacker’lar siber saldırılarını geliştirmek için ChatGPT kullanıyor” açıklamasını yaptı.
Bu aslında büyük de bir sürpriz olmuyor çünkü ChatGPT gibi sistemler, büyük faydaları yanında kötü anlamda birçok farklı kapıyı aralayarak istenmeyen durumlara karşı ciddi zaman kazandırabiliyor. Yeni yayınlanan araştırma kapsamında bu temelde bilgiler veren Microsoft ve OpenAI, “Rusya, Kuzey Kore, İran ve Çin” destekli grupların belirledikleri hedefleri araştırmak, hack sürecinde kullandığı komut dosyalarını geliştirmek ve hepsinden önemli sosyal mühendislik teknikleri oluşturmak için ChatGPT gibi araçları kullandıklarını tespit ettiklerini belirtiyor. Microsoft ve OpenAI henüz GPT-4 gibi LLM’leri kullanan herhangi bir önemli saldırı tespit etmediklerini ancak hack gruplarıyla ilişkili tüm hesapları kapattıklarını belirtiyor. Günümüzde sohbet botları ya da büyük dil modelleri üzerinde çalışan her firmanın bu konuya büyük önem vermesi gerekiyor, özellikle açık kaynak büyük dil modellerinde bu durumlara karşı özel güçlü koruma sistemlerinin olması gerekiyor.
ChatGPT’nin arkasında yer alan OpenAI kısa süre önce de “GPT-4, biyolojik silah üretiminde internetten biraz daha fazlasını sunuyor” açıklaması ile ses getirmişti. OpenAI, ticari olarak şu an çok sayıda rakibi olan ChatGPT’den başka neler sunacak? Burada yer alan habere göre firma üretken yapay zekayı kompleks görevlerin altından otomatik olarak kalkabilecek bir sistem haline getirmek adına çalışmalar yapıyor.
Halen aşırı detay yok ancak firmanın bu yeni planlar kapsamında iki farklı yapay zeka ajanı (Algılayan ve tepki verebilen sistemler) geliştirdiği belirtiliyor. İlk yapay zeka ajanının karmaşık görevleri otomatikleştirmek için yerel olarak bir bilgisayarda kullanılacağı aktarılıyor. Örneğin sistemin verileri bir belgeden alarak bir tabloya aktarabileceği veya gider raporlarını doldurup muhasebe yazılımına girebileceğinden bahsediliyor.
Burada özel izinler sağlanarak tüm sistem / bilgisayar kontrolünün yapay zeka ajanına devredileceği söyleniyor. İkinci yapay zeka ajanının ise kamuya açık verileri toplamak, rotalar oluşturmak veya uçak bileti rezervasyonu yapmak gibi direkt olarak web tabanlı görevleri yerine getirmeye odaklanacağı söyleniyor.
Bu çalışmaları ne zaman ticari hale getireceği bilinmeyen OpenAI, kısa süre önce yaptığı “GPT-4, biyolojik silah üretiminde internetten biraz daha fazlasını sunuyor” açıklaması ile gündeme gelmişti. OpenAI, kendi içinde yürüttüğü bir araştırma kapsamında önemli açıklamalarda bulundu.
Buna göre şirketin geliştirdiği ücretli ChatGPT’ye temel olan “GPT-4” isimli büyük dil modeli, biyolojik silahları araştırma ve üretme konusunda insanlara internette yer alan bilgiler karşısında yalnızca küçük bir avantaj sağlıyor. Yani ChatGPT kişilere biyolojik silah üretme söz konusu olduğunda Google sonuçlarına oranla aşırı fazla detay vermiyor ancak yine de bilgi alınabiliyor.
Bu konuda endişe edilmemesi gerektiğini söyleyen ancak süreçteki koruma sistemlerinin geliştirileceğini belirten çünkü halen bazı hayati riskler oluşturan firma, uzmanların sık sık dile getirdiği, “GPT-4 teröristlere, suçlulara ve diğer kötü niyetli kişilere önemli ölçüde yardımcı olabilir” endişesini paylaşmıyor ancak durum gerçekte tam olarak öyle görünmüyor.