Finans bakanları, merkez bankacıları ve finansörler, finansal sistemlerin güvenliğini zayıflatabileceğinden korktukları güçlü yeni bir yapay zeka modeli hakkında ciddi endişelerini dile getirdiler.
Anthropic tarafından geliştirilen Claude Mythos modelinin, birçok büyük işletim sistemindeki güvenlik açıklarını bulmasının ardından kriz toplantılarına yol açtığı belirtildi.
Uzmanlar, modelin siber güvenlik zayıflıklarını tespit etme ve kullanma konusunda eşi benzeri görülmemiş bir yeteneğe sahip olabileceğini söylerken, diğerleri yeteneklerini tam olarak anlamak için daha fazla test yapılması gerektiğini belirtiyor.
Kanada Maliye Bakanı François-Philippe Champagne, BBC’ye verdiği demeçte, Mythos‘un bu hafta Washington DC’deki Uluslararası Para Fonu (IMF) toplantısında kapsamlı bir şekilde tartışıldığını söyledi.
“Kesinlikle tüm finans bakanlarının dikkatini çekecek kadar ciddi,” dedi.
“Fark şu ki, Hürmüz Boğazı’nın nerede olduğunu ve ne kadar büyük olduğunu biliyoruz… Anthropic ile karşı karşıya olduğumuz sorun, bilinmeyenin, bilinmeyen olmasıdır.” diye ekledi.
“Bu, finansal sistemlerimizin dayanıklılığını sağlamak için güvencelere ve süreçlere sahip olmamız için çok fazla dikkat gerektiriyor,” diye ekledi.
Claude Mythos Nedir?
Mythos, Anthropic‘in OpenAI‘nin ChatGPT‘si ve Google‘ın Gemini‘sine rakip olan daha geniş yapay zeka sistemi Claude‘un bir parçası olarak geliştirilen en son modellerinden biridir.
Bu ayın başlarında Anthropic tarafından ortaya çıkarılan model, yapay zeka modellerini ve “yanlış hizalanmış” görevlerdeki performanslarını test etmekten sorumlu geliştiriciler tarafından “bilgisayar güvenliği görevlerinde şaşırtıcı derecede yetenekli” olarak tanımlandı.
Eski yazılım hatalarını ortaya çıkarabileceği veya sistem güvenlik açıklarını kolayca kullanmanın yollarını bulabileceği endişelerini gerekçe göstererek, Anthropic modeli yayınlamadı.
Bunun yerine, Mythos‘u Amazon Web Services, CrowdStrike, Microsoft ve Nvidia gibi teknoloji devlerine, “dünyanın en kritik yazılımlarını güvence altına alma çabası” olarak adlandırdığı Project Glasswing adlı bir girişimin parçası olarak sundu.
Perşembe günü, Anthropic mevcut bir model olan Claude Opus‘un yeni bir sürümünü yayınlayarak, Mythos‘un siber yeteneklerinin daha az güçlü sistemlerde test edilmesine olanak tanıyacağını belirtti.
Mythos hakkında dile getirilen endişeler, önceki yapay zeka modelleri hakkındaki tartışmaları aşabilir, ancak bazı siber güvenlik uzmanları, modelin gerçekte ne kadar yetenekli olduğunu görmek için daha geniş endüstri tarafından test edilmediği göz önüne alındığında, bu endişelerin ne kadar haklı olduğunu sorguladı.
Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü‘ne modelin önizleme sürümüne erişim verildi ve modelin siber güvenlik becerileri hakkında tek bağımsız raporu yayınladı.
Araştırmacılar, modelin savunmasız ortamlarda birçok güvenlik açığı bulabilen güçlü bir araç olduğunu belirtirken, Mythos‘un Claude‘un selefi Opus 4‘ten dramatik bir şekilde daha iyi olmadığını öne sürdüler.
“Testlerimiz, Mythos Preview‘ın zayıf güvenlik duruşuna sahip sistemleri kullanabileceğini ve bu yeteneklere sahip daha fazla modelin geliştirilmesinin muhtemel olduğunu gösteriyor,” dedi rapor yazarları.
Bu aynı zamanda bir yapay zeka geliştiricisinin modellerinin yeteneklerinin yayınlanmaması gerektiği iddiasında bulunduğu ilk sefer değil – eleştirmenlerin bir tanıtım taktiği olduğunu savunduğu bir durum.
Şubat 2019’da OpenAI, şu anda en büyük aracı ChatGPT‘ye güç veren modellerinin daha önceki bir sürümü olan GPT-2‘nin yayınını ertelemeyi seçtiğinde benzer korkuları dile getirmişti.
Güvenlik Açıklarını Anlamak
Üst düzey bankacılara, sistemlerini test etmeleri için modele önceden erişim sağlanacak.
Barclays CEO’su CS Venkatakrishnan, BBC’ye şunları söyledi: “İnsanların endişelenmesi için yeterince ciddi.”
“Onu daha iyi anlamalı ve ortaya çıkan güvenlik açıklarını anlamalı ve hızlı bir şekilde düzeltmeliyiz.” diye ekledi.
“Yeni dünya bu olacak” diyerek, hem fırsatları hem de güvenlik açıklarını içeren çok daha bağlantılı bir finansal sisteme atıfta bulundu.
Geliştirici Anthropic, modelin bazı kritik işletim sistemlerinde, finansal sistemlerde ve web tarayıcılarında zaten birden fazla güvenlik açığını ortaya çıkardığını belirtirken, hükümetlere ve bankalara kendi sistemlerini korumalarına yardımcı olmak için halka açık sürümünden önce erişim sunuluyor.
İngiltere Merkez Bankası Başkanı Andrew Bailey, BBC’ye bu gelişmenin çok ciddiye alınması gerektiğini söyledi: “Bu en son yapay zeka gelişiminin siber suç riski için ne anlama gelebileceğini şimdi çok dikkatli bir şekilde incelememiz gerekiyor.”
“Sonuç, çekirdek BT sistemlerindeki mevcut güvenlik açıklarını tespit etmeyi kolaylaştıran bir yapay zeka, modelleme gelişimi olabilir ve ardından siber suçlular – kötü niyetli aktörler – bunları kullanmaya çalışabilir,” diye ekledi.
ABD Hazine Bakanlığı, Anthropic tarafından Mythos‘un herhangi bir halka açık sürümünden önce büyük bankalarını sistemlerini test etmeye teşvik ederek konuyu gündeme getirdiğini doğruladı.
Finans sektörü kaynakları, başka bir önde gelen ABD yapay zeka şirketinin yakında benzer derecede güçlü ancak aynı güvencelere sahip olmayan bir model yayınlayabileceğini belirtti.
Balderton Capital‘de ortak olan James Wise, 500 milyon sterlinlik hükümet finansmanı tarafından desteklenen İngiliz yapay zeka şirketlerine yatırım yapacak bir risk sermayesi fonu olan Sovereign AI biriminin başkanıdır.
Mythos‘un sistemlerin güvenlik açıklarını ortaya çıkarabilecek “daha birçok güçlü modelin ilki” olduğunu söyledi.
Birimi, BBC’nin Today Programına verdiği demeçte, “bunu ele alan İngiliz yapay zeka şirketlerine – yapay zeka güvenliği ve emniyeti alanında çalışan şirketlere – yatırım yapıyor.”
“Umarız güvenlik açıklarını ortaya çıkaran modeller, aynı zamanda onları düzelten modeller de olur.”
#YapayZeka #MythosAI #SiberGüvenlik #FinansSistemleri #Anthropic #ClaudeMythos #TeknolojiGüvenliği #AIEndişeleri #FinansalRisk #DijitalGüvenlik
Leave a Reply