Son haftalarda, yapay zeka dünyası, önde gelen şirket Anthropic’in yeni modeli Claude Mythos hakkındaki iddialarıyla çalkalanıyor. Şirket, aracın bazı siber güvenlik ve siber saldırı görevlerinde insanlardan daha iyi performans gösterdiğini keşfettiğini belirtiyor. Bu durum, düzenleyiciler, yasa koyucular ve finans kurumları arasında dijital hizmetlere yönelik potansiyel tehlikeler hakkında tartışmaları tetikledi.
Claude Mythos Nedir?
Mythos, Anthropic’in daha geniş Claude adlı yapay zeka sisteminin bir parçası olarak geliştirilen en yeni modellerinden biridir. Şirketin yapay zeka asistanını ve model ailesini kapsayan bu sistem, OpenAI’nin ChatGPT’si ve Google’ın Gemini’si ile rekabet ediyor.
Anthropic tarafından Nisan başında “Mythos Preview” olarak tanıtıldı.
Yapay zeka modellerinin belirli istekleri veya görevleri nasıl yerine getirdiğini test eden “kırmızı ekipler” olarak bilinen araştırmacılar, bir raporda Mythos’un “bilgisayar güvenliği görevlerinde şaşırtıcı derecede yetenekli” olduğunu belirtti.
Aracın, onlarca yıllık kodlarda gizlenen atıl hataları bulabildiğini ve bunları kolayca istismar edebildiğini keşfettiler.
Bu nedenle Anthropic, Mythos’u Claude kullanıcılarına geniş çapta sunmak yerine, “dünyanın en kritik yazılımlarını güvence altına alma çabası” olarak tanımladığı Project Glasswing aracılığıyla 12 teknoloji şirketine erişim sağladı.
Bu şirketler arasında bulut bilişim devi Amazon Web Services, cihaz üreticileri Apple, Microsoft ve Google ile çip üreticileri Nvidia ve Broadcom yer alıyor.
Temmuz 2024’te hatalı yazılım güncellemesi küresel bir kesintiye neden olan Crowdstrike da projenin ortakları arasında. Anthropic, kritik yazılımlardan sorumlu 40’tan fazla kuruluşa da Mythos’a erişim sağladığını belirtiyor.
Project Glasswing’in lansmanıyla birlikte yayınlanan bir videoda, Anthropic CEO’su Dario Amodei, “bu modellerin riskine karşı savunmaya yardımcı olmak” için ABD hükümet yetkilileriyle çalışmayı teklif ettiklerini söyledi.
Endişeler Neden Kaynaklanıyor?
Anthropic, testler sırasında modelin siber güvenlik ve siber saldırı görevlerinde son derece yetenekli olduğunu ve insanlardan daha iyi performans gösterdiğini belirtiyor.
Anthropic, 7 Nisan’da yaptığı açıklamada, “Mythos Preview, her büyük işletim sistemi ve web tarayıcısında binlerce yüksek öncelikli güvenlik açığı buldu” dedi.
“Yapay zeka ilerlemesinin hızı göz önüne alındığında, bu tür yeteneklerin güvenli bir şekilde konuşlandırmaya kararlı aktörlerin ötesine geçmesi uzun sürmeyecektir.”
Modelin, çok fazla denetim olmadan, eski sistemlerde acil eylem gerektiren kritik hataları bulabildiğini (27 yıldır bir sistemde bulunan bir güvenlik açığı da dahil) ve bunları istismar etme yolları önerebildiğini ifade etti.
Bazı maliye bakanları, merkez bankacıları ve finansörler o zamandan beri modelin finansal sistemlerin güvenliğini zayıflatabileceği endişesiyle ciddi kaygılar dile getirdi.
Kanada Maliye Bakanı François-Philippe Champagne, BBC’ye bu hafta Washington DC’deki Uluslararası Para Fonu (IMF) toplantısında Mythos’un tartışıldığını söyledi.
Teknolojiyi “bilinmeyen bir bilinmeyen” olarak tanımlayan Champagne, “Kesinlikle tüm maliye bakanlarının dikkatini gerektirecek kadar ciddi” dedi.
İngiltere Merkez Bankası Başkanı Andrew Bailey, BBC’ye “bu son yapay zeka gelişmesinin siber suç riski için ne anlama gelebileceğini şimdi çok dikkatli bir şekilde incelememiz gerekiyor” dedi.
Bu arada AB, Mythos hakkındaki endişeleri konusunda Anthropic ile görüşmelerde bulunduğunu bildirdi.
Siber Uzmanlar Ne Dedi?
Birleşik Krallık Ulusal Siber Güvenlik Merkezi’nin eski başkanı Ciaran Martin, bu hafta BBC’ye Mythos’un kritik güvenlik açıklarını diğer yapay zeka modellerinden çok daha hızlı ortaya çıkarabileceği iddiasının “insanları gerçekten sarstığını” söyledi.
Martin, “İkinci husus ise, bildiğimiz ancak kuruluşların yama yapmamış veya iyi savunmamış olabileceği mevcut zayıflıklarda bile, o sadece gerçekten iyi bir hacker” dedi.
Birçok bağımsız siber güvenlik analisti ve uzmanı henüz Mythos’u kendileri test edemedi ve bazıları Mythos’un performansı konusunda şüpheci kalmaya devam ediyor.
Birleşik Krallık Yapay Zeka Güvenliği Enstitüsü kısa süre önce, Mythos’un çok güçlü bir model olmasına rağmen, en büyük tehdidinin kötü savunulan, savunmasız sistemlere karşı olacağı sonucuna vardı.
Araştırmacılar, “Mythos Preview’in iyi savunulan sistemlere saldırıp saldıramayacağını kesin olarak söyleyemeyiz” dedi.
Dolayısıyla, iyi bir siber güvenlik olduğu yerlerde, bu modelin teorik olarak durdurulması umuluyor.
Endişelenmeli miyiz?
Yapay zeka ile ilgili korkular yeni değil.
Her zaman yeni modeller ve araçlar ortaya çıkıyor ve genellikle hayatımızı iyi ya da kötü yönde devrim niteliğinde değiştirecek vaatlerle birlikte geliyorlar.
Yapay zeka ve gelecekteki etkisi üzerindeki bu korku ve heyecan karışımından yararlanmak, son yıllarda sektörün ve pazarlama stratejilerinin bir özelliği haline geldi.
Mythos örneğinde, bu umutların veya korkuların haklı olup olmadığını ya da daha çok endüstriyi çevreleyen abartının bir yansıması olup olmadığını bilmek için henüz yeterince bilgiye sahip değiliz.
Her iki durumda da, NSCS’ye göre, şimdi yapabileceğimiz en önemli şey paniklememek ve bunun yerine temel siber güvenliği doğru yapma ihtiyacına odaklanmaktır.
Sonuçta, çoğu hacker, çok daha basit saldırılar genellikle yeterli olduğunda sistemleri ihlal etmek için süper yapay zeka araçlarına ihtiyaç duymaz.
Martin BBC’ye, “Bazıları için bu kıyametvari bir olay, diğerleri için ise çok fazla abartı gibi görünüyor” dedi.
Ancak, ister bu araç ister Anthropic veya rakipleri tarafından yapılan sonraki araçlar olsun, riskin yanı sıra daha güvenli bir çevrimiçi dünya inşa etme fırsatının da olduğunu belirtti.
“Orta vadede, bu araçları internetteki birçok temel güvenlik açığını düzeltmek için kullanma fırsatı var” dedi.
Teknoloji dünyasının en önemli haberlerini ve trendlerini takip etmek için Tech Decoded bültenimize kaydolun. Birleşik Krallık dışındaysanız buradan kaydolun.
#ClaudeMythos #YapayZeka #SiberGüvenlik #Anthropic #SiberSaldırı #ProjectGlasswing #YapayZekaGüvenliği #Teknoloji #DijitalDönüşüm #VeriGüvenliği
Leave a Reply