Anthropic, yapay zeka firmasının kamuoyuna açıklanamayacak kadar güçlü olduğunu belirttiği siber güvenlik aracı Claude Mythos modeline küçük bir grubun erişim sağladığı iddiasını araştırıyor.
Anthropic yaptığı açıklamada, “Üçüncü taraf satıcı ortamlarımızdan biri aracılığıyla Claude Mythos Preview’a yetkisiz erişim iddiasını araştırıyoruz” dedi.
Bu açıklama, Bloomberg’in özel bir forumdaki kullanıcıların normal izinler olmadan modele erişmeyi başardığına dair haberine yanıt olarak geldi.
Mythos’un yetenekleri hakkında derin bir endişe var; ancak Birleşik Krallık’ın en üst düzey siber yetkilisi, ileri düzey yapay zeka araçlarının, teknoloji kötüye kullanımdan korunursa “net bir pozitif” olabileceğini söyledi.
Şu anda kötü niyetli aktörlerin modele ulaştığına dair bir belirti yok ve Anthropic, sistemlerinin etkilendiğine dair kanıtı olmadığını belirtiyor. Ancak yetkisiz kullanıcıların erişim sağladığına dair rapor, büyük yapay zeka şirketlerinin gelişmiş yapay zeka modellerinin yanlış ellere geçmesini engelleme yeteneği hakkında soruları gündeme getiriyor.
Siber güvenlik şirketi Smarttech247’nin CEO’su Raluca Saceanu’ya göre, bu durum “klasik bir hack’ten ziyade, erişimin kötüye kullanılması yoluyla gerçekleşmiş olma ihtimali yüksek.”
Anthropic, Mythos modelini bazı teknoloji ve finans şirketlerine, sistemlerini güvenlik açıklarını istismar etme yeteneğine karşı korumalarına yardımcı olmak amacıyla yayınladı. Ancak bu, söz konusu şirketlerin kendi erişimlerini sıkı bir şekilde kontrol etmelerine bağlı.
Bloomberg’e göre, ilgili kişi, üçüncü taraf bir yüklenici için yaptığı çalışmalar aracılığıyla Anthropic’in yapay zeka modellerini görüntüleme iznine zaten sahipti. Haber kaynağı ayrıca, grubun erişim sağladığından beri modeli kullandığını, ancak tespit edilmek istemedikleri için hackleme amacıyla kullanmadıklarını bildirdi.
“Güçlü yapay zeka araçlarına amaçlanan kontroller dışında erişildiğinde veya kullanıldığında, risk sadece bir güvenlik olayı değil, aynı zamanda dolandırıcılık, siber istismar veya diğer kötü niyetli faaliyetler için kullanılabilecek yeteneklerin yayılmasıdır,” dedi Saceanu.
Yapay Zeka ve Siber Güvenlik: Birleşik Krallık’ın Bakış Açısı
Çarşamba günü büyük bir siber güvenlik konferansında yaptığı konuşmada, Birleşik Krallık Ulusal Siber Güvenlik Merkezi (NCSC) başkanı, yapay zeka araçlarının işleri daha güvenli hale getirebileceğini savunarak daha olumlu bir tablo çizdi. Richard Horne, CyberUK delegelerini yeni yapay zeka saldırılarından korkmamaya, ancak siber güvenliğin temellerini doğru yaptıklarından emin olmaya çağırdı.
Horne, “Son günlerde medyada gördüğümüz gibi, sınır yapay zekası mevcut güvenlik açıklarının keşfedilmesini ve büyük ölçekte istismar edilmesini hızla mümkün kılıyor, bu da siber güvenliğin temellerinin hala ele alınması gereken yerleri ne kadar çabuk ortaya çıkaracağını gösteriyor” dedi. Horne’un uyarıları, son yıllardaki benzer mesajları yankılıyor; örneğin, insanların sistemlerindeki yazılımları güncellemeleri ve eski BT’yi yükseltmeleri konusundaki aciliyet gibi.
Aynı etkinlikte, Güvenlik Bakanı Dan Jarvis, yapay zekanın kritik ağları saldırganlardan korumak için kullanılmasını sağlamak amacıyla yapay zeka firmalarını hükümetle “nesiller arası bir çaba” içinde çalışmaya çağırdı.
En güçlü ve gelişmiş yapay zeka modellerinin tamamı – sınır yapay zekası olarak bilinir – Birleşik Krallık dışında geliştirilmekte olup, en üst düzey şirketler ABD veya Çin’de bulunmaktadır. Bu, Birleşik Krallık’ın Mythos’a erişim sağlamak için Anthropic gibi şirketlere güvendiği ve nasıl inşa edildiği, eğitildiği veya yayınlandığı üzerinde hiçbir kontrolü olmadığı anlamına geliyor. OpenAI’nin de GPT 5.4 Cyber adında çok yetenekli olduğunu söylediği bir siber güvenlik modeli var.
Küresel Siber Tehditler ve Savunma
CyberUK’taki konuşmalar, özellikle Rusya ve Çin’den gelen ulus devlet ve hacktivist saldırılarının devam eden tehdidini de vurguladı. NCSC, siberin artık Birleşik Krallık’ta savunmanın “ana cephesi” olduğunu ve son zamanlardaki siber olayların, siberin tüm modern çatışmalarda giderek daha önemli bir rol oynadığını gösterdiğini belirtiyor.
Tech Decoded bültenimize kaydolarak dünyanın en iyi teknoloji hikayelerini ve trendlerini takip edin. Birleşik Krallık dışındaysanız buradan kaydolun.
#YapayZeka #SiberGüvenlik #Anthropic #ClaudeMythos #TeknolojiHaberleri #VeriGüvenliği #AI #SiberSaldırı #İngiltere #DijitalGüvenlik
Leave a Reply